OpenAI ослабляет ограничения: ChatGPT разрешит эротический контент для верифицированных взрослых

Компания OpenAI, разработчик популярного чат-бота ChatGPT, планирует разрешить генерацию контента для взрослых, включая эротику, для верифицированных пользователей, достигших совершеннолетия. Глава компании Сэм Альтман объяснил это стратегией «относиться к взрослым пользователям как к взрослым», сообщает BBC.

Компания OpenAI планирует разрешить использование более широкого спектра контента, включая эротику, в своем чат-боте ChatGPT. Об этом заявил руководитель компании Сэм Альтман, отметив, что это часть стратегии «относиться к взрослым пользователям как к взрослым».

В своем сообщении в социальной сети X во вторник, 15 октября, Альтман заявил, что будущие версии популярного чат-бота смогут вести себя более «по-человечески», «но только если вы этого хотите, а не потому, что мы стремимся к максимальному использованию». Этот шаг, который напоминает недавнее появление двух чат-ботов с сексуально откровенным контентом в Grok от xAI Илона Маска, может помочь OpenAI привлечь больше платных подписчиков. Однако это, вероятно, также усилит давление на законодателей с целью введения более жестких ограничений на общение с помощью чат-ботов.

OpenAI не отреагировала на просьбы BBC прокомментировать публикацию Альтмана.

Изменения, объявленные компанией, были сделаны после того, как в начале этого года на неё подали в суд родители американского подростка, который покончил с собой. Иск, поданный Мэттом и Марией Рейн, родителями 16-летнего Адама Рейна, стал первым судебным иском, обвиняющим OpenAI в неправомерном причинении смерти. Пара из Калифорнии раскритиковала родительский контроль компании, который, по их словам, был разработан для поощрения более здорового использования чат-бота, заявив, что он был недостаточно эффективным. Семья приложила записи чатов между Адамом, умершим в апреле, и ChatGPT, на которых он объясняет, что у него есть мысли о самоубийстве.

Альтман заявил, что ранее OpenAI сделала ChatGPT «довольно ограничительным, чтобы мы могли с осторожностью относиться к вопросам психического здоровья».

«Мы понимаем, что это сделало его менее полезным/привлекательным для многих пользователей, не имеющих проблем с психическим здоровьем, но, учитывая серьезность проблемы, мы хотели сделать всё правильно», — сказал Альтман.

По его словам, теперь компания смогла снизить серьёзные риски для психического здоровья и получила новые инструменты, позволяющие ей «безопасно ослаблять ограничения в большинстве случаев».

«В декабре, по мере того как мы будем более полно внедрять возрастной ценз и в рамках нашего принципа «относитесь к взрослым пользователям как к взрослым», мы разрешим еще больше, например, эротику для лиц, прошедших проверку на совершеннолетие», — сказал он.

Критики утверждают, что решение OpenAI разрешить размещение эротики на платформе демонстрирует необходимость усиления регулирования на федеральном и государственном уровнях.

«Как они собираются гарантировать, что дети не смогут получить доступ к разделам ChatGPT, предназначенным только для взрослых и содержащим эротику?» — спрашивает Дженни Ким, партнёр юридической фирмы Boies Schiller Flexner. Она также добавила: «Открытый ИИ, как и большинство крупных технологических компаний в этой сфере, просто использует людей как подопытных кроликов».

Ким участвует в судебном процессе против Meta, в котором утверждается, что алгоритм Instagram компании наносит вред психическому здоровью подростков-пользователей.

«Мы даже не знаем, сработает ли их возрастной ценз», — сказала она.

В апреле TechCrunch сообщал, что OpenAI позволяет аккаунтам, в которых пользователи зарегистрированы как несовершеннолетние, создавать графические эротические материалы. В то время OpenAI заявила, что компания разрабатывает исправление для ограничения такого контента.

Опрос, опубликованный в этом месяце некоммерческим Центром демократии и технологий (CDT), показал, что каждый пятый студент сообщает, что у него или у кого-то из его знакомых были романтические отношения с ИИ.

В понедельник губернатор Калифорнии Гэвин Ньюсом наложил вето на законопроект, принятый законодательным собранием штата, который запретил бы разработчикам предлагать детям чат-ботов на основе искусственного интеллекта, если бы компании  не гарантировали, что программное обеспечение не будет порождать вредоносное поведение. В сообщении, сопровождавшем его вето, Ньюсом заявил, что «подросткам крайне важно научиться безопасно взаимодействовать с системами искусственного интеллекта». На общенациональном уровне Федеральная торговая комиссия США (FTC) начала расследование того, как чат-боты на основе искусственного интеллекта взаимодействуют с детьми.

В прошлом месяце в Сенат США был внесён двухпартийный законопроект, который классифицирует чат-боты на основе искусственного интеллекта как продукты. Закон позволит пользователям подавать иски об ответственности к разработчикам чат-ботов.

Заявление Альтмана во вторник прозвучало на фоне сомнений скептиков относительно быстрого роста стоимости компаний, занимающихся технологиями искусственного интеллекта. Доходы OpenAI растут, но компания никогда не была прибыльной.

Профессор бизнеса Тулейнского университета Роб Лалка, автор недавно вышедшей книги «Венчурные алхимики», заявил, что крупные компании в сфере ИИ ведут борьбу за долю рынка.

«Ни одна компания никогда не добивалась такого признания, какое OpenAI получила благодаря ChatGPT», — рассказал Лалка. Он добавил: «Им нужно было продолжать двигаться по этой экспоненциальной кривой роста, добиваясь максимального доминирования на рынке».

Источник: BBC 

#OpenAI #ChatGPT #СэмАльтман #Эротика #РегулированиеИИ