OpenAI может определить сгенерированные в ChatGPT тексты, но не хочет публиковать инструмент для их выявления

Программа, которая позволяет выявить сгенерированный текст, разрабатывалась около двух лет. При этом, что ещё более примечательно, компания уже год назад могла выпустить её, но мнения внутри OpenAI разделились.

OpenAI выяснили с помощью опросов, что выпуск такого инструмента привёл бы к тому, что около трети пользователей ChatGPT попросту перестали бы им пользоваться. Противоположный лагерь внутри OpenAI считает, что даже если так произойдёт, инструмент всё равно принесёт много пользы.

Система базируется на определении «водяных знаков» в тексте (что скорее означает «маркеры»), позволяющие судить об использовании ChatGPT. Эффективность системы, как заявляют в компании, 99,9%. Программа также может заметить перефразирование.

Потребность в предоставлении способа обнаружения материалов, написанных ChatGPT, остро стоит для учителей. Один из недавних опросов показал, что 59% учителей в США убеждены в том, что ученики используют искусственный интеллект для выполнения своих заданий.