Работающая в области искусственного интеллекта компания OpenAI планирует расширить спектр контента, который производит его популярный чат-бот ChatGPT. По словам главы OpenAI Сэма Альтмана, компания решила «относиться к взрослым пользователям как к взрослым» и в числе прочего разрешить чат-боту генерировать эротические материалы, передает ВВС.
В своем посте в соцсети X во вторник Альтман написал, что следующая версия ChatGPT, которая выходит в декабре, не будет ограничивать более откровенный контент и «позволять больше, например, эротику для верифицированных взрослых».
«Если вам нужно, чтобы ChatGPT отвечал вам совсем как человек, или использовал массу эмодзи, или же вел себя как друг, ChatGPT должен это делать (но только если вы действительно этого хотите, а не потому что мы пытаемся нарастить объемы использования)», — пишет Альтман.
Похожий шаг недавно предприняла компания Илона Маска xAI, которая снабдила свой Grok двумя чат-ботами, выдающими откровенный сексуальный контент.
Разрешение эротического контента может привлечь в OpenAI больше платных подписчиков. Но оно также способно заставить законодателей ввести более жесткие ограничения в работе чат-ботов.
OpenAI не ответила на просьбу Би-би-си о комментарии после публикации поста Альтмана.
Вопросы о контроле над чат-ботами
В последнее время звучит все больше призывов обратить внимание на работу платформ, основанных на искусственном интеллекте.
В начале этого года родители 16-летнего американского подростка Адама Рейна, покончившего с собой в апреле этого года, подали иск против OpenAI. Они обвинили компанию в неправомерном лишении жизни.
Супруги из Калифорнии заявили, что существующие в ChatGPT механизмы родительского контроля недостаточно эффективны и не обеспечивают безопасность его использования. В качестве доказательства своих утверждений семья предоставила копии переписок между Адамом и ChatGPT, в которых он признается, что подумывает о суициде.
В своем посте, опубликованном 14 октября, Альтман заявил, что OpenAI предусмотрела «значительные ограничения» в работе ChatGPT для обеспечения «осторожности в вопросах психического здоровья».
«Мы понимаем, что это сделало его менее полезным/приятным для многих пользователей, у которых нет проблем с психическим здоровьем, но, учитывая серьезность проблемы, мы хотели сделать все правильно», — сказал при этом Альтман.
По его словам, в результате компания смогла снизить серьезные риски для психики и разработала новые инструменты, позволяющие «безопасно ослабить ограничения в большинстве случаев».
Критики считают, что решение OpenAI разрешить эротику подчеркивает необходимость более строгого регулирования со стороны государства.
«Как они собираются сделать так, чтобы дети не могли получить доступ к тем частям ChatGPT, которые предназначены только для взрослых и содержат эротику? — спрашивает Дженни Ким, партнер юридической фирмы Boies Schiller Flexner. — Open AI, как и большинство крупных технологических компаний в этой сфере, просто использует людей как подопытных кроликов».
Ким также принимает участие в судебном процессе против компании Meta, которой принадлежит сеть Instagram: истцы утверждает, что алгоритм приложения наносит вред психическому здоровью подростков-пользователей.
В апреле профильное издание TechCrunch сообщило, что OpenAI разрешал генерировать эротические изображения с аккаунтов, пользователи которых зарегистрировались как несовершеннолетние.
