Как изменить цвет фона у Floating Action Mode?

Как вариант добавить в стиль темы такую запись:

<item name="android:actionModeBackground">@color/dark_red</item>

вот здесь хорошо описано как работать с контекстным меню. Если же речь идет о цвете выделения, то его можно установить добавив поле в EditText:

android:textColorHighlight="#ff0000"

либо программно добавить к текстовому полю:

et.setHighlightColor(ContextCompat.getColor(getContext(), R.color.highlight));

За фон отвечает floatingToolbarPopupBackgroundDrawable, в котором зашит цвет - для темной и светлой темы соответственно.

Похоже, что это часть кода платформы, и переопределить невозможно.

Можно только переопределить тему - черную/светлую через переопределение <item name="isLightTheme">true|false</item> в теме activity.