Conjugate (dual) function

Let . The function is called convex conjugate (Fenchel’s conjugate, dual) and is defined as follows:

Let’s notice, that the domain of the function is the set of those , where the supremum is finite.

Properties

  • - always closed convex function (point-wise supremum of closed convex functions) on (Function is called closed if is a closed set in )
  • Fenchel–Young inequality:

  • Let the functions are defined on the . Then, if and only if - proper convex function (Fenchel - Moreau theorem). (proper convex function = closed convex function)

  • Consequence from Fenchel–Young inequality:

  • The Legendre transformation as a special case of Fenchel’s conjugate (in case of differentiable function). Let - convex and differentiable, . Then . In that case . That’s why:

  • Let , where - convex functions, then

  • Let . Let also are defined on . Then

Examples

The scheme of recovering the convex conjugate is pretty algorithmic:

  1. Write down the definition
  2. Find those , where is finite. That’s the domain of the dual function
  3. Find , which maximize as a function on .

1

Find , if

Решение:

  • Рассмотрим функцию, супремумом которой является сопряженная:
  • Построим область определения (т.е. те , для которых конечен). Это одна точка
  • Значит,

2

Find , if

Решение:

  • Рассмотрим функцию, супремумом которой является сопряженная: .
  • Эта функция не ограничена сверху при . Значит,
  • Её максимум достигается при . Значит,

3

Find , if

Решение:

  • Рассмотрим функцию, супремумом которой является сопряженная: .
  • Эта функция не ограничена сверху при . Значит, (с нулем лучше поработать аккуратнее)
  • Её максимум достигается при . Значит, . Полагая, что .

4

Find , if

Решение:

  • Рассмотрим функцию, супремумом которой является сопряженная: .
  • Эта функция ограничена сверху при всех . Значит, (с нулем лучше поработать аккуратнее)
  • Её максимум достигается при . Значит, .

5

Find , if

Решение:

  • Рассмотрим функцию, супремумом которой является сопряженная: .
  • Эта функция ограничена сверху при всех . Значит, (с нулем лучше поработать аккуратнее)
  • Её максимум достигается при . Значит, .

6

Find , if

Решение:

  • Рассмотрим функцию, супремумом которой является сопряженная: .
  • Заметим, что если вектор имеет хотя бы одну отрицательную компоненту, то эта функция не ограничена по .
  • Пусть теперь .
  • Пусть теперь .
  • Остается только . Тогда
  • Значит, .