OpenAI, компанія, що створила DALL-E та ChatGPT, представила новий класифікатор, який допоможе розрізнити людський текст від тексту, написаного штучним інтелектом.
Модель навчалась на парах текстів однієї теми, які писала людина та ШІ. У пресрелізі попереджають, що класифікатор “не повністю надійний” і не має використовуватись як “основний інструмент прийняття рішень”.
OpenAI також надає кілька попереджень, на які варто звернути увагу перед використанням інструменту:
- текст має містити мінімум 1000 символів, або приблизно 150-250 слів;
- класифікатор не завжди точний і може неправильно позначити текст, як написаний ШІ або людиною;
- текст, написаний ШІ, можна легко відредагувати аби він походив на людський і міг “обманути” класифікатор;
- класифікатор може видати помилковий результат, якщо користувач перевіряє текст не англійською мовою або написаний дитиною — оскільки інструмент навчався на англійському контенті, написаному дорослими.
Застереження здаються виправданими — журналіст The Verge протестував інструмент на власних текстах і той позначив їх як “дуже малоймовірно створені ШІ”. Не досить точний результат (“малоймовірно створені ШІ”) дає класифікатор при спробі перевірити статті CNET Money — видання стверджує, що ці статті були “написані за допомогою ШІ та відредаговані людиною” (нещодавно CNET додав нові виправлення до більш ніж половини з них).
CNET не уточнює, який ШІ-інструмент використовує для написання статей, однак журналісти схиляються до думки, що це Wordsmith. OpenAI каже, що їхній інструмент призначений не тільки для GPT, і може виявляти “текст, написаний штучним інтелектом від різних постачальників”.
Разом з тим кілька прикладів відповідей ChatGPT інструмент позначив як “можливо” або “ймовірно” створені ШІ. За даними OpenAI під час тестування інструмент позначав текст, створений штучним інтелектом як “імовірно написаний ШІ” у 26% випадків, і помилково позначав людський текст, як текст ШІ у 9%.
OpenAI не перша компанія, яка створила класифікатор тексту. Після того, як ChatGPT “завірусився”, студент Едвард Тіан представив сайт зі схожими можливостями під назвою GPTZero.
Власник ChatGPT зосередився на створенні класифікатора у першу чергу через побоювання викладачів, оскільки чимало освітніх закладів заборонили використання чатбота через те, що не можуть розрізнити роботи ШІ від творів, написаних учнями. OpenAI каже, що “взаємодіє з педагогами в США”, звертаючи увагу на їхні відгуки щодо ChatGPT.
