Разработчик ChatGPT представил инструмент для распознавания созданного ИИ текста

Компания OpenAI, разработчик нейросети ChatGPT, объявила о запуске классификатора, способного распознавать текст, написанный человеком на основе сгенерированного ИИ материала.

Инструмент позволит бороться с кампаниями по дезинформации, в которых используют ИИ, злонамеренным использованием нейросетей в учебном процессе, и случаями, когда тексты чат-бота пытаются выдать за человеческие.

Классификатор не безупречен, подчеркнули в OpenAI: в ходе тестов он идентифицировал 26% сгенерированного ИИ текста как «текст, вероятно написанный ИИ», а 9% текста, написанного человеком, помечал как сгенерированный ИИ. Причем точность результатов повышается с объемом проверяемого текста, обратили внимание в компании.

«Мы сделали этот классификатор общедоступным... Наша работа по обнаружению текста, сгенерированного ИИ, будет продолжена, и мы надеемся поделиться улучшенными методами в будущем», – заключили в OpenAI.

В ноябре 2022 г. компания OpenAI запустила нейросеть chatGPT, способную генерировать тексты, отвечать на вопросы и писать коды. Первый миллион бесплатных пользователей чат-бот смог собрать всего за пять дней. OpenAI была создана в 2015 г. как фонд, исследующий проблемы искусственного интеллекта (ИИ).