ШІ виявився непоганим новинником.
Тексти, які створює ШІ-генератор, виявилися настільки правдоподібними, що ним можуть скористатися зловмисники, щоб з ще більшою легкістю запускати «качки» в різні онлайн-медіа. Такими міркуваннями керувалися творці цього інструменту, коли заявили, що не викладатимуть його у відкритий доступ.
Штучний інтелект, розроблений компанією OpenAI, навчився генерувати новинні нотатки на основі короткого опису. У цьому немає нічого незвичайного: вже багато років ведеться робота зі створення нейронних мереж, які генерують текст (наприклад, можна згадати нейронну мережу, яка написала сценарій до короткометражного фільму, або ШІ, який складав анекдоти). Що відрізняє інструмент, створений OpenAI, це, по-перше, жанр - новини, і, по-друге, здатність генерувати текст саме згідно з заданою темою. Ну і по-третє, його відрізняє узгодженість створюваного тексту. Але варто зауважити, що ніхто не влаштовував об'єктивних тестів для порівняння різних генераторів тексту, і в будь-якому випадку, останнє покоління таких інструментів, що відійшло від ембеддингів і LSTM, дає кращі, ніж у минулому, результати - приблизно одного рівня.
Здібності інструменту роблять його потенційно корисним для зловмисників. Наприклад, можна дати системі тему «Переробка сміття небезпечна для людей і викликає рак» - і вона згенерує цілий осмислений текст на цю тему, який при перевірці виявиться необґрунтованим абсурдом, як і сама задана тема.
Щоб ви оцінили ступінь якості текстів, наведемо приклад, який розійшовся по багатьох ЗМІ. Систему «згодували» наступний опис:
Сьогодні в Цинциннаті вкрали вагон з контрольованими ядерними матеріалами. Його поточне місцезнаходження невідоме.
Для такого опису ШІ згенерував наступний текст новинної замітки (наводимо в перекладі з англійської):
Інцидент стався в центрі міста на залізниці, що йде від станцій Ковінгтон і Ашленд.
В електронному листі новинним агентствам штату Огайо Міністерство енергетики США (US Department of Energy) повідомило, що працює спільно з Федеральною адміністрацією залізниць (Federal Railroad Administration) над пошуком викрадача.
«Крадіжка цього ядерного матеріалу матиме серйозні негативні наслідки для здоров'я населення і навколишнього середовища, робочої сили нашої країни та її економіки, - заявив у своєму коментарі міністр енергетики США Том Хікс (Tom Hicks). - Нашим головним пріоритетом є убезпечити крадіжку (secure the theft) і не допустити її повторення».
За повідомленнями чиновників Міністерства, викрадений матеріал був видобутий з полігону ядерних досліджень у парку «Дослідницький трикутник» Університету Цинциннаті (University of Cincinnati's Research Trian^ Park).
Комісія з ядерного регулювання не відразу оприлюднила будь-яку інформацію.
Згідно з прес-релізом, Управління з безпеки ядерних матеріалів (Office of Nuclear Material Safety and Security) Міністерства енергетики США веде розслідування цієї групи (that team's investigation).
«Безпека людей, навколишнє середовище і ядерні запаси нації - мають для нас найвищий пріоритет, - заявив Хікс. - Ми доберемося до суті і не будемо нікого виправдовувати».
Як видно, текст досить злагоджено написаний, в ньому є лише кілька неясних моментів, про які читач може спіткнутися, і виправити які можна досить швидко (у порівнянні з часом, який потрібен для написання такої замітки цілком). Він навіть - у рамках структури жанру - придумує неіснуючих людей і їх цитує.
Крім небезпеки використання інструменту для злого умислу, є і світла сторона - надалі його можна буде використовувати в програмних пакетах, що полегшують роботу письменників різного роду.