Компания OpenAI опубликовала новую версию Model Spec – 187-страничного документа, в котором описывается, как чат-бот ChatGPT должен вести себя и реагировать на запросы пользователей, заметило издание Ars Technica.
Новая политика ослабляет ограничения на генерацию некоторых типов «чувствительного контента», включая эротику и кровавые сцены. Эти изменения готовились с мая 2024, когда в первоначальном документе Model Spec впервые упоминалось, что OpenAI изучает, «можем ли мы ответственно предоставлять возможность генерировать NSFW-контент в соответствующем возрастном контексте через API и ChatGPT».
Пока эксперименты пользователей Reddit показали, что фильтры содержимого ChatGPT и правда были ослаблены – некоторые из них смогли генерировать откровенно «сексуальные или насильственные сценарии» без сопутствующих предупреждений о содержимом.
Также в сети отмечают, что OpenAI сократила «цензуру» в спорных вопросах, позволяя ChatGPT обсуждать ранее запрещенные темы. Новая политика основана на принципе «поиска истины вместе», независимо от сложности или спорности вопросов.
Ранее было известно, что ChatGPT ограничивал свои возможности из-за так называемой политики патернализма в отрасли ИИ, которая описывается как «знание того, что лучше для пользователя». Компания пересматривает свой подход, ориентируясь на «интеллектуальную свободу» и открытые дискуссии.
Изменения происходят на фоне широкой дискуссии в сфере ИИ о роли модерации контента и свободы слова, которая началась после избрания Дональда Трампа президентом США. Так, в США просят Европу «сбавить обороты» в регулировании искусственного интеллекта, меж тем крупные технологические компании пересматривают свои подходы к модерации контента в сторону большей открытости.
Генеральный директор OpenAI Сэм Альтман также намекал, что OpenAI может перейти к опенсорсу. Разработчик ChatGPT признался, что они «оказались на неправильной стороне истории в отношении открытого исходного кода».
Добавим, Meta сокращает расходы на сотрудников, делая приоритетом искусственный интеллект.