Задание 1. Сигмоидная функция

Логистическая регрессия использует сигмоидную функцию:

σ(z) = 1 / (1 + e^(−z)).

Даны значения логита:

z₁ = 0,

z₂ = 1.386,

z₃ = −1.386.

Необходимо:

  1. Вычислить значение сигмоидной функции для каждого логита.
  2. Определить вероятность положительного класса.
  3. Объяснить, почему результат сигмоидной функции может использоваться для вероятностной классификации.

Задание 2. Выбор порога классификации

Модель логистической регрессии определила следующие вероятности положительного класса:

Объект

Вероятность

1

0.2

2

0.6

3

0.8

4

0.95

Необходимо:

  1. Определить классы объектов при пороге 0.5.
  2. Определить классы объектов при пороге 0.7.
  3. Определить классы объектов при пороге 0.9.
  4. Объяснить, почему изменение порога влияет на результат классификации.

Задание 3. Бинарная кросс-энтропия

Дана функция потерь:

BCE = −[y log(p) + (1 − y)log(1 − p)].

Рассмотрим два наблюдения.

Первое наблюдение:

y = 1, p = 0.9.

Второе наблюдение:

y = 0, p = 0.2.

Необходимо:

  1. Вычислить бинарную кросс-энтропию для первого наблюдения.
  2. Вычислить бинарную кросс-энтропию для второго наблюдения.
  3. Сравнить полученные значения.
  4. Объяснить назначение функции потерь при обучении модели.