Вот ироничный поворот: школы борются с ИИ с помощью ИИ.

Во всех школьных округах Америки администраторы внедряют системы наблюдения на базе ИИ, которые сканируют сообщения студентов, электронные письма и модели их интернет-серфинга. Цель? Выявление ранних признаков — будь то кризисы психического здоровья, индикаторы самоповреждения или потенциальное насилие.

Это происходит, поскольку чат-боты и инструменты генеративного ИИ становятся неотъемлемой частью класса. Технология, предназначенная для улучшения обучения, теперь контролируется еще одним уровнем алгоритмов, созданных для обеспечения безопасности детей. Студенты взаимодействуют с ИИ-ассистентами для помощи с домашними заданиями, в то время как программное обеспечение для мониторинга анализирует их цифровой след в поисках тревожных сигналов.

Подход ставит под сомнение границы конфиденциальности в образовательных учреждениях. Насколько оправдано наблюдение во имя безопасности? Где проходит грань между защитным контролем и навязчивым мониторингом?

То, что мы наблюдаем, это новое поле битвы в более широком разговоре об алгоритмическом управлении — одном, который разворачивается в школах, прежде чем дети даже войдут в рабочую силу.