OpenAI опубликовала инструмент генерации текста, создающий правдоподобные фейковые новости

Еще в феврале OpenAI представила искусственный интеллект под названием GPT-2, который способен писать убедительные поддельные новости, используя фрагменты кода в качестве отправной точки. Организация видела высокий потенциал для злоупотребления этим инструментом, поэтому приняла решение о поэтапном выпуске.



Уменьшенные версии не использовались в свободном доступе, поэтому OpenAI выпустила полную модель GPT-2, которая содержит 1,5 миллиарда параметров, надеясь, что это поможет исследователям улучшить средства обнаружения и генерации текста. Благодаря более точной настройке, вскоре инструмент сможет помочь экспертам определять, распространяет ли злоумышленник спам и дезинформацию или, возможно, выдает себя в Интернете за кого-то другого. Это также может помочь улучшить чат-ботов, чтобы они стали действительно полезными.

GPT-2 натренирован предсказывать следующие слова в текстах с 8 миллионов веб-страниц. Но хотя качество выпускаемой продукции впечатляет, доверие читающего все еще остается относительно низким. Текст, который генерирует ИИ, не всегда последователен и может включать повторяющиеся структуры, внезапное переключение тем и сбои в моделировании мира. Примером может служить то, что GPT-2 может писать о пожарах, происходящих под водой, или о том, что кто-то сын может являться отцом своего отца.

Проще говоря, чем больше данных, тем выше качество их вывода. С другой стороны, GPT-2 проваливается в частности тогда, когда речь идет об очень специфическом или эзотерическом контенте. С другой стороны, технология OpenAI превзошла Google BERT, который используется для прогнозирования того, что люди ищут в Интернете, используя мощь своей облачной инфраструктуры.

Недавно Microsoft вложила 1 млрд долларов в OpenAI, чтобы поддержать амбиции по созданию "общего искусственного интеллекта". А пока вы можете поиграть с весьма ограниченной веб-версией GPT-2 здесь.

AliExpress WW