Искусственный интеллект: как новая технология засоряет интернет и угрожает СМИ

Массовый рост популярности искусственного интеллекта (ИИ) меняет привычный ландшафт интернета. По данным издания Live Science, распространение низкокачественного, сгенерированного ИИ-контента, который часто называют «ИИ-отстоем», вытесняет более качественные и полезные материалы, а также используется для распространения дезинформации.

«ИИ-отстой» — это контент (текст, изображения, видео, аудио), созданный с помощью инструментов искусственного интеллекта, зачастую без должного внимания к точности и качеству. Этот контент быстро, легко и недорого создавать, а его распространение направлено на то, чтобы эксплуатировать экономику внимания в интернете. Издание The Guardian, проанализировав самые быстрорастущие YouTube-каналы, обнаружило, что девять из ста таких каналов содержат ИИ-контент. Подобные проблемы возникают и на других площадках: так, онлайн-журнал научной фантастики Clarkesworld в 2024 году прекратил принимать статьи  из-за потока текстов, написанных ИИ. Даже "Википедия" сталкивается с низкокачественным контентом, что создаёт нагрузку на систему модерации и ставит под угрозу один из ключевых информационных ресурсов.

Низкокачественный ИИ-контент может использоваться для распространения дезинформации. Например, во время урагана «Хелен» в 2024 году в социальных сетях распространилось изображение, созданное ИИ, на котором девочка в лодке прижимает к себе щенка. Это изображение использовалось оппонентами президента Джо Байдена как «доказательство» предполагаемых ошибок его администрации в ликвидации последствий стихийного бедствия. Даже когда происхождение контента очевидно, его всё равно могут использовать для введения в заблуждение людей, которые не вникают в детали.

Кроме того, «ИИ-отстой» наносит вред творческим людям. Он приводит к потере рабочих мест и финансовым потерям, вытесняя контент, созданный реальными авторами. Алгоритмы социальных сетей часто не распознают такой контент, что позволяет ему успешно конкурировать с работами живых авторов, ранее зарабатывавших на жизнь созданием онлайн-контента. В итоге медиасреда наполняется «мусором», и пользователям приходится постоянно быть настороже, чтобы отличить дипфейки и «неаутентичные» аккаунты.

Источник: The Conversation

#ИИ #Интернет #Соцсети #Технологии #Дезинформация