Фото Reuters
OpenAI предоставит больше контента в ChatGPT. Это касается и эротики. Генеральный директор компании Сэм Альтман заявил, что они хотят «относиться к взрослым пользователям как к взрослым».
В сообщении на X Альтман написал, что будущие версии популярного чат-бота позволят ему вести себя более по-человечески — «если вы этого хотите».
Этот шаг, напоминающий недавнее представление двух откровенно сексуальных чат-ботов Grok от xAI Илона Маска, может помочь OpenAI привлечь больше платных подписчиков.
Также вероятно усиление давления на законодателей с целью введения более жестких ограничений на чат-ботов-компаньонов — виртуальных собеседников, предназначенных не только для предоставления информации, но и для имитации дружбы, романтических отношений или эмоциональной поддержки.
OpenAI не ответила на запросы BBC о комментариях.
В то же время Альтман сказал, что OpenAI ранее сделал ChatGPT «достаточно строгим, чтобы мы были осторожны в вопросах психического здоровья».
Об этих изменениях было объявлено в блоге в августе, который больше не появляется на веб-сайте OpenAI.
&q uot; Мы понимаем, что это сделало его менее полезным/приятным для многих пользователей, у которых не было проблем с психическим здоровьем, но, учитывая серьезность проблемы, мы хотели решить ее правильно», — написал г-н Альтман.
Он сказал, что ChatGPT может вскоре ослабить ограничения — «теперь, когда мы смогли смягчить серьезные проблемы с психическим здоровьем и иметь новые инструменты».
«В декабре, когда мы полностью реализуем возрастные ограничения и в рамках нашего принципа «относиться к взрослым пользователям как к взрослым», мы разрешим еще больше, например, эротику для проверенных взрослых», — добавил Альтман.
Эти изменения произошли после того, как в начале этого года на OpenAI подали в суд родители американского подростка, покончившего жизнь самоубийством.
Иск, поданный Мэттом и Марией Рейн, родителями 16-летнего Адама Рейна, стал первым судебным иском, обвиняющим OpenAI в смерти в результате противоправных действий.
Семья приобщила к делу чат между Адамом, который умер в апреле, и ChatGPT, в котором можно увидеть, как он объясняет, что у него были суицидальные намерения. мысли.
В своем заявлении OpenAI сообщила BBC, что изучает этот документ.
«Мы выражаем наши глубочайшие соболезнования семье Рейн в это трудное время», — заявила компания.
На карту поставлена безопасность детей
Согласно законодательству Великобритании, письменная эротика не требует проверки возраста.
Однако порнографические изображения, в том числе созданные искусственным интеллектом, потребуют от пользователей подтверждения их подлинности. старше 18 лет
В США критики говорят, что решение OpenAI разрешить эротику на платформе сигнализирует о необходимости ужесточения регулирования на федеральном уровне и уровне штата.
«Как они собираются гарантировать, что дети не смогут получить доступ к частям ChatGPT, предназначенным только для взрослых?» – спрашивает Дженни Ким, партнер юридической фирмы Boies Schiller Flexner.
Г-жа Ким участвует в иске против Меты, которая утверждает, что Алгоритм Instagram компании вредит психическому здоровью подростков.
«OpenAI, как и большинство крупных технологических компаний в этой отрасли, просто использует людей в качестве подопытных кроликов», — сказала она.
В апрельском выпуске TechCrunch сообщалось, что OpenAI разрешила учетным записям, в которых пользователь зарегистрировался как несовершеннолетний, создавать эротические изображения.
Затем OpenAI заявила, что компания внедряет изменения, чтобы ограничить такое поведение. содержание.
Опрос, опубликованный в этом месяце некоммерческой организацией «Центр демократии и технологий» (CDT), показал, что каждый пятый студент сообщил, что у него или у кого-то из его знакомых были «романтические отношения» с ИИ.
В понедельник губернатор Калифорнии Гэвин Ньюсом наложил вето на законопроект, принятый законодательным собранием штата. Ему следовало запретить разработчикам предлагать детям чат-ботов-компаньонов, если только компании не могут гарантировать, что программное обеспечение не приведет к вредным последствиям. поведение.
Ньюсом заявил, что «абсолютно необходимо, чтобы подростки научились безопасно взаимодействовать с ИИ».
На национальном уровне Федеральная торговая комиссия США (FTC) начала расследование того, как чат-боты с искусственным интеллектом взаимодействуют с детьми.
В прошлом месяце в Сенат США был внесен двухпартийный законопроект, который позволит пользователям чат-ботов подавать иски об ответственности против своих разработчиков.
Почему ввести эротику?
Заявление Альтмана прозвучало на фоне скептиков, подвергающих сомнению быстрый рост стоимости компаний, занимающихся технологиями искусственного интеллекта.
Роб Лалка, профессор бизнеса в Университете Тулейн и автор книги «Венчурные алхимики», сказал, что крупные компании в области искусственного интеллекта столкнулись с борьбой за долю рынка.
«Ни одна компания никогда не имела такого уровня OpenAI с ChatGPT», — сказал BBC News профессор Лалка.
«Им необходимо продолжать двигаться вверх по этой экспоненциальной кривой роста, добиваясь как можно большего доминирования на рынке», — добавил он.
