Модераторы контента заявили о 80% ошибок ИИ-систем

Искусственный интеллект усложняет, а не упрощает работу модераторов контента. Он не может надежно распознавать жестокость и зло, пишет Bloomberg со ссылкой на 13 профессиональных фильтраторов онлайн-материалов. Один из сотрудников TikTok под псевдонимом Кевин заявил, что более года назад ему поручили использовать ИИ-программу в своей работе. Он оценил количество ошибок примерно в 70%. Например, искусственный интеллект может сообщить о низком уровне топлива на приборной панели автомобиля на видео, хотя должен проанализировать спидометр, показывающий 200 км/ч. Кевин считает, что, несмотря на возникающие трудности, работодатели продолжат заменять людей машинами. Профессиональные модераторы подтвердили утверждение — ИИ начинают применять быстрее, чем он учится качественно отсеивать вредоносный контент. Эксперты опасаются возникновения контролируемой искусственным интеллектом интернет-среды, в которой ненависть, пропаганда, совращение детей и другие формы онлайн-угроз будут свободно распространяться. «Если встать на путь внедрения ИИ, чтобы сократить количество специалистов по безопасности, это приведет к ее снижению. Нужны живые люди», — заявил директор по технологиям Канадского центра защиты детей Ллойд Ричардсон. Работа модератора контента наносит эмоциональные травмы, а наем достаточного количества людей — сложная задача. Пользователи только на YouTube загружают более 20 млн видео в день. Компании делают ставку на искусственный интеллект, однако он лишь мешает. Из 13 модераторов, с которыми поговорили журналисты Bloomberg, 12 заявили об усложнении работы после интеграции нейросетей. «Мы не можем полагаться на подсказки ИИ. В 80% случаев он ошибается. Мы даже не смотрим на его предложения», — заявила 36-летняя сотрудница казахстанской фирмы по модерации контента Жанерке Каиденова. Кевин тратит время на исправление ошибок, вручную проставляя сверхточные метки для всего увиденного. Эта работа только увеличивает нагрузку и отнимает время, которое можно было бы потратить на более срочные задачи. Он уверен, что его дотошные исправления фактически обучают систему, и в итоге она заменит его, хотя руководство прямо об этом не говорит. Напомним, в мае 2024 года Reddit объявила о партнерстве с OpenAI, которое предоставило реддиторам и модераторам новые функции на базе ИИ.