1. Сигмоидная функция:

σ(z) = 1 / (1 + e^(−z)).

При z = 0:

σ(0) = 1 / (1 + 1) = 0.5.

При z = 1.386:

σ(1.386) ≈ 0.8.

При z = −1.386:

σ(−1.386) ≈ 0.2.

Полученные значения представляют собой оценки вероятности принадлежности объекта к классу 1.

Сигмоидная функция преобразует действительное число в значение от 0 до 1, что позволяет использовать её для вероятностной классификации.

2. При пороге 0.5:

1 — класс 0.

2 — класс 1.

3 — класс 1.

4 — класс 1.

При пороге 0.7:

1 — класс 0.

2 — класс 0.

3 — класс 1.

4 — класс 1.

При пороге 0.9:

1 — класс 0.

2 — класс 0.

3 — класс 0.

4 — класс 1.

Изменение порога приводит к изменению итоговых меток классов даже при неизменных вероятностях.

Выбор порога должен учитывать стоимость ложноположительных и ложноотрицательных решений.

3. Для первого наблюдения:

y = 1, p = 0.9.

BCE = −log(0.9) ≈ 0.1054.

Для второго наблюдения:

y = 0, p = 0.2.

BCE = −log(1 − 0.2).

BCE = −log(0.8) ≈ 0.2231.

Потери для второго наблюдения больше, чем для первого.

Бинарная кросс-энтропия используется для количественной оценки расхождения между фактическими метками и прогнозируемыми вероятностями. При обучении модели стремятся уменьшить значение функции потерь.