ИИ тупеет от брейнрота и мусорного контента, как человек
Искусственный интеллект может стать глупее, если его обучать бесполезному контенту из соцсетей. К такому выводу пришли американские ученые, пишет WIRED.
Они провели эксперимент, обучив две нейросети на разных данных. Первую кормили обычными текстами, а вторую — так называемым : короткими постами с кричащими словами вроде «вау», «смотрите», «только сегодня».
Результаты оказались тревожными. Нейросеть, которая питалась «мусорным» контентом, начала хуже соображать; память и логика ослабли, а в ответах проявились циничность и неэтичность. Ученые сравнили это состояние с цифровой деградацией у людей.
Последствия этого обучения сложно исправить. Попытки «переучить» ИИ на качественных данных не вернули ему прежний уровень интеллекта.
«Чем больше такого мусора в соцсетях, тем сильнее он загрязняет данные, — пояснил соавтор исследования Цзюньюань Хун. — Обучение на вирусном контенте может незаметно разрушить логику, этику и способность ИИ держать внимание».
Проще говоря, если постоянно обучать нейросеть на основе коротких твитов и кликбейтных видео, она неизбежно деградирует. Прямо как человек, мозг которого отвыкает от сложных задач, подсаживаясь на легкий, но бесполезный контент.
Топ-5 статей по теме
Тралалеро Тралала и другие: что такое итальянский брейнрот
Кто такой Брр-Брр Патапим: что известно о брейнрот-персонаже
ИИ предсказал, как изменится Земля через 1 млн лет
Отправляемся «в отпуск» с ИИ: вышло приложение для генерации фото с отдыха
ИИ-помощник: как выбрать личного ассистента для задач, работы и учебы
Лучшие статьи за неделю
Актуальные и самые интересные тексты будут приходить вам на e-mail
Нажимая на кнопку, я выражаю согласие на обработку персональных данных и подтверждаю, что ознакомлен с Политикой обработки персональных данных и принимаю Правила пользования платформой, а также даю согласие на получение рекламной информации от ПАО «Совкомбанк».
Похожие статьи
