В OpenAI разработали алгоритм, который распознает текст, созданный чат-ботом ChatGPT. Программа способна работать с 99% точностью и уже готова к выпуску.
Однако руководство компании не спешит публиковать алгоритм. Есть опасения, что античит может оттолкнуть около 30% активных пользователей. Две трети пользователей считают, что инструмент будет давать ложные срабатывания.
Руководство OpenAI опасается, что античит затронет уязвимые группы пользователей, для которых английский язык не является родным. Также существует риск, что защиту можно обойти с помощью машинного перевода на другой язык и обратно.
Еще одна проблема — возможность раскрытия алгоритма, если предоставить доступ к античиту слишком многим пользователям. Также есть опасения, что алгоритм можно будет обмануть.
Пока обсуждается доступ к программе для образовательных учреждений.