Некоммерческая компания OpenAI, которая занимается исследованиями в сфере искусственного интеллекта, создала нейросеть GPT-2, которая может самостоятельно писать тексты по определенной теме. Впрочем, в OpenAI сообщили, что не будут публиковать полную версию нейросети из-за опасений, что ее будут использовать во вред. 

Что такое GPT-2

GPT-2 — языковая модель, которая была натренирована на восьми миллионах веб-страниц. Ее главная задача — предсказать следующее слово, учитывая контекст текста. Создатели GPT-2 отмечают, что у модели есть много способностей, но главная — написать текст «беспрецедентного качества». 

Для работы GPT-2 пользователь должен написать вводный тезис, который может состоять буквально из одного предложения. Модель подстроится под его стиль и содержание и выдаст текст по теме.

Пример работы нейросети. Первый абзац написан человеком, все остальное — ИИ

Создатели отмечают, что качество текста напрямую зависит от контекста вводного тезиса. GPT-2 хороша в популярных темах (брекзит, Майли Сайрус, «Властелин колец») — в этом случае каждый второй ее текст будет удовлетворительным. В более сложных темах модель действует хуже. 

Чем примечательна технология

Особенность GPT-2 заключается в том, что ее можно «настроить» на определенный тип текста. Например — научить писать отзывы на товары с Amazon с учетом категории и рейтинга товара.

Кроме этого, в OpenAI отмечают, что GPT-2 не натренирована на каких-то конкретных базах данных, поэтому превосходит другие модели. Например, технология побила рекорд в тесте Winograd Schema Challenge, который определяет уровень машинного интеллекта. 

Где ее можно использовать

В OpenAI выделяют несколько областей, где технология может быть полезна:

• Помощь в написании текстов;
• Усовершенствование машинного перевода;
• Улучшение систем распознавания речи.

Чем нейросеть опасна

В OpenAI приняли решение опубликовать только демо-версию GPT-2 из-за ряда опасений. В компании уверены — эту модель можно использовать для обмана и мошенничества. В частности:

• Создавать ложные журналистские материалы;
• Выдавать себя за других в интернете;
• Автоматизировать создание оскорбительного или ложного контента для соцсетей;
• Автоматизировать создание спама и фишинга.

Такие технологии — а также разработанные ранее модели для создания фейковых фото и видео — снижают стоимость производства ложного контента и кампаний по дезинформации. Люди в целом должны скептически относиться к тексту, который они находят в интернете, так же, как и к изображениям и видео из-за технологии deep fakes.