ИИ тупеет от брейнрота и мусорного контента, как человек

Искусственный интеллект может стать глупее, если его обучать бесполезному контенту из соцсетей. К такому выводу пришли американские ученые, пишет WIRED.

Они провели эксперимент, обучив две нейросети на разных данных. Первую кормили обычными текстами, а вторую — так называемым брейнротом: короткими постами с кричащими словами вроде «вау», «смотрите», «только сегодня».

Результаты оказались тревожными. Нейросеть, которая питалась «мусорным» контентом, начала хуже соображать; память и логика ослабли, а в ответах проявились циничность и неэтичность. Ученые сравнили это состояние с цифровой деградацией у людей.

Последствия этого обучения сложно исправить. Попытки «переучить» ИИ на качественных данных не вернули ему прежний уровень интеллекта.

«Чем больше такого мусора в соцсетях, тем сильнее он загрязняет данные, — пояснил соавтор исследования Цзюньюань Хун. — Обучение на вирусном контенте может незаметно разрушить логику, этику и способность ИИ держать внимание».

Проще говоря, если постоянно обучать нейросеть на основе коротких твитов и кликбейтных видео, она неизбежно деградирует. Прямо как человек, мозг которого отвыкает от сложных задач, подсаживаясь на легкий, но бесполезный контент.