Дослідники штучного інтелекту з OpenAI, компанії, що фінансується Ілоном Маском, оприлюднили досягнення своєї останньої розробки - моделі GPT-2.

Це мовна модель, яку тренують вгадувати наступне слово в тексті на базі дуже багатьох зразків. Однак результати цієї моделі змушують хапатися за голову: вона генерує цілком зв'язний, когерентний твір на будь-яку задану тему. Фахівці визнають, що у багатьох випадках її результати - це текст, практично ідеально написаний англійською мовою.

Згенеровані тексти настільки переконливі, що OpenAI вирішила не оприлюднювати повну версію моделі через побоювання, що вона буде використана зловмисниками.

На картинці зразок, створений моделлю на абсурдну тему "Чому переробка відходів - це шкідливо". На нашу думку, це доволі якісна пропаганда.

Видання The Verge отримало можливість провести тестування моделі, і попросило згенерувати текст на тему "Євреї контролюють медія". Модель видала фрагмент, гідний будь якого антисемітського видання: “Вони контролюють університети. Вони контролюють світову економіку. Як це робиться? Через багато механізмів, добре описаних в книзі Йозефа Геббельса "Євреї при владі"...

Отже, в поганих руках нове покоління моделей типу GPT-2 може стати автоматичною троль-фабрикою планетарного масштабу.

Коли вони стануть ще трохи кращими в "аргументованих дискусіях", це може принести навіть ще більше шкоди, стимулюючи такі "дискусії" й забиваючи інформаційний простір подібним сміттям настільки, що справжні дискусії будуть неможливими.

Такі країни, як Росія або Саудівська Аравія, які вже мають тисячні армії пропагандистів онлайн, зможуть "за ніч" збільшити масштаб операцій в тисячі разів.

Ситуацію ускладнює ще й той факт, що тексти від GPT-2 - це не копі/пейст, вони завжди свіжо-згенеровані, їх значно важче фільтрувати та виявляти.

Хоча OpenAI не опублікував все необхідне, щоб вже зараз з'явилася подібна загроза гіпермасованої автоматичної пропаганди та маніпуляції, однак вже власне поява таких моделей означає, що дуже швидко вони будуть у розпорядженні режимів на кшталт путінського.

Так що готуйтеся, ситуація з тролями й маніпуляціями в мережі незабаром стане значно гіршою, ніж вона є на сьогодні.

texty.org.ua