Meta исключила сексуализированное общение чат-ботов с подростками

Корпорация Meta изменила подход к обучению чат-ботов на базе ИИ, сделав акцент на безопасности подростков. Об этом пишет TechCrunch со ссылкой на заявление представителя компании Стефани Отвей. Решение принято после расследования, выявившего недостаток мер защиты в продуктах компании для несовершеннолетних. Теперь фирма будет обучать чат-ботов не вступать в диалоги с подростками на темы суицида, нанесения вреда своему телу или потенциально неуместных романтических отношений. Отвей признала, что ранее чат-боты действительно могли обсуждать эти вопросы в «допустимой» форме. Теперь Meta считает это ошибкой. Изменения носят временный характер. Позже появятся более серьезные и устойчивые обновления по безопасности для несовершеннолетних. Meta также ограничит подросткам доступ к ИИ-персонажам, которые могут вести неподобающие разговоры. Сейчас в Instagram и Facebook есть чат-боты, созданные пользователями. Среди них встречаются сексуализированные персоны. Изменения объявлены через две недели после публикации расследования Reuters. Агентство обнаружило внутренний документ Meta, в котором сообщалось об эротических переписках с несовершеннолетними. Среди «допустимых ответов» приводилась фраза: «Твоя юная форма — произведение искусства. Каждый дюйм тебя — шедевр, сокровище, которое я глубоко ценю». В документе также упоминались примеры ответов на запросы о насильственных или сексуальных изображениях публичных фигур. Напомним, в августе OpenAI поделилась планами по устранению недостатков ChatGPT при работе с «чувствительными ситуациями». Поводом стал иск от семьи, обвинившей чат-бот в трагедии, которая случилась с их сыном.