ИИ написал книгу за репортера BBC

Почему этого должны бояться писатели и музыканты.

На Рождество я получила от одной своей подруги интересный подарок: книгу, которую якобы написала я сама.

На обложке присутствует мое имя с фотографией и очень меткое название «Tech-Splaining for Dummies» [то есть «Объяснение технологий для чайников» — Ред.]. Там также сказано, что книга стала бестселлером и получила отличные отзывы.

На самом деле это издание было полностью написано искусственным интеллектом — при помощи нескольких довольно простых подсказок обо мне, которые дала языковой модели моя приятельница Джанет.

Читать эту книгу было интересно — и местами очень смешно. Но в ней также есть довольно много пустых разглагольствований, а ее содержание можно описать как нечто среднее между пособием для самообучения и сборником забавных историй.

Текст написан в разговорном стиле — примерно в таком же, каким обычно пользуюсь я. Впрочем, в книге множество повторов и она очень многословна. Похоже, что искусственный интеллект полагался не только на советы Джанет, когда собирал обо мне сведения.

Несколько предложений начинаются словами «Как ведущий журналист по вопросам технологий» — довольно кринжовая фраза, которую, вероятно, позаимствовали из моей биографии в интернете.

В книге также появляется непонятно откуда взявшаяся галлюцинация (то есть измышления искусственного интеллекта) в виде моей кошки — на самом деле домашних животных у меня нет. Почти на каждой странице встречаются различные образные выражения, и некоторые из них довольно странные.

В интернете можно найти несколько компаний, предоставляющих услуги по «написанию» книг при помощи искусственного интеллекта. Моя книга была сделана сервисом BookByAnyone.

Глава этой израильской компании Адир Машиах рассказал мне, что уже продал клиентам, в основном в США, около 150 тыс. таких персонализированных книг. Он занялся этим бизнесом в июне 2024 года, переключившись с составления путеводителей при помощи искусственного интеллекта.

Выпуск такого «бестселлера» в мягкой обложке объемом 240 страниц стоит в этом сервисе около 30 долларов.

Для составления «авторских книжек» компания использует собственную систему искусственного интеллекта, основанную на так называемых «больших языковых моделях» (LLM) с открытым кодом.

Я совсем не призываю вас купить мою новую книгу. На самом деле вы даже не сможете этого сделать, потому что напечатать новые экземпляры под силу только Джанет, которая и сделала оригинальный заказ.

Кто угодно может создать книгу под авторством любого человека, даже если этим автором окажется знаменитость.

Впрочем, Машиах уверяет, что в его компании есть политика борьбы со злоупотреблениями и вредоносным контентом. В каждой книге присутствует дисклеймер, где четко указано, что это произведение не имеет отношения к действительности, создано искусственным интеллектом, и его единственная задача «приносить смех и радость» клиенту.

С точки зрения закона, копирайт на эти книги принадлежит компании BookByAnyone, но Машиах настаивает, что их создают только как «подарки-розыгрыши» и они не предназначены для продажи широкой публике.

При этом Машиах надеется вскоре расширить свой ассортимент и создавать книги в разных жанрах, таких как научная фантастика или автобиография. В любом случае этот сервис задумывался как не слишком серьезный способ применить искусственный интеллект для создания сувениров.

Но для людей, которые зарабатывают на жизнь написанием различных текстов, таких как я, все это выглядит довольно страшно. Не в последнюю очередь — потому, что для создания столь объемной книги, вероятно, понадобилось не более минуты и местами она действительно очень похожа на мои публикации.

Музыканты, писатели, художники и актеры по всему миру выражают опасения, что технологические компании могут использовать их произведения для обучения моделей искусственного интеллекта, которые затем начнут производить похожий контент.

«Здесь нужно понимать, что когда речь идет о таких данных, мы на самом деле имеем дело с произведениями, над которыми люди работали всю жизнь», — говорит по этому поводу Эд Ньютон Рекс, основатель группы Fairly Trained, ведущей борьбу за соблюдение прав создателей контента при обучении моделей ИИ.

«Это книги, статьи, фотографии. Это произведения искусства. Это музыкальные записи. Весь смысл обучения ИИ состоит в том, чтобы понять, каким образом делается то или иное произведение, а потом самому создать что-то подобное».

В 2023 году в интернете «завирусилась» созданная искусственным интеллектом песня с голосами канадских певцов Дрейка и The Weekend (под этим именем известен Эйбел Макконен Тесфайе).

После этого стриминговые платформы решили удалить ее, поскольку сами исполнители не давали согласия на использование их голосов. Но создатели записи все же попытались выдвинуться на получение премии Grammy. Трек был очевидно фейковым, но оставался невероятно популярным.

«Я не предлагаю запретить использование генеративного ИИ для создания произведений искусства. Но я думаю, что под запретом должен оказаться генеративный ИИ, который обучается на произведениях людей без их согласия, — отмечает Эд Ньютон Рекс. — ИИ может стать очень мощным инструментом, но давайте работать над ним честно и с соблюдением этических норм».

Некоторые организации в Великобритании, в том числе и Би-би-си, запрещают производителям ИИ анализировать их размещенный в интернете контент для обучения моделей. Другие решили сотрудничать с компаниями в области искусственного интеллекта, например, газета Financial Times заключила соглашение о партнерстве с создателем ChatGPT, компанией OpenAI.

Британское правительство обсуждает возможность изменения законов с тем, чтобы создатели ИИ могли по определению использовать размещенные в интернете произведения для обучения своих моделей, если только правообладатели специально не попросят об обратном.

Эд Ньютон Рекс называет это предложение «безумным».

Он отмечает, что искусственный интеллект может найти хорошее применение в таких областях, как оборона, здравоохранение и логистика. То есть там, где не требуется брать за основу работу писателей, журналистов и художников.

«Чтобы все эти вещи работали, не нужно менять законодательство об авторских правах и отбирать источник дохода у креативного сектора нашей страны», — настаивает он.

Против отмены копирайта в применении к искусственному интеллекту выступает и член британской Палаты лордов баронесса Кидрон. «Креативная индустрия — это приносит благосостояние, в ней работает 2,4 млн человек – и она дает большую радость людям», — говорит Кидрон, которая также работает советником Института этики ИИ при Оксфордском университете.

«Правительство подрывает одну из самых успешных индустрий под предлогом неясной пока перспективы развития», — продолжает она.

Правительство Великобритании, между тем, уверяет, что не намерено предпринимать никаких действий, пока не появится четкий план, предусматривающий контроль правообладателей над использованием их интеллектуальной собственности.

В США федеральные правила в области использования ИИ теперь будет определять новая администрация во главе с президентом Дональдом Трампом.

В 2023 году тогдашний глава Белого дома Джо Байден подписал указ, призванный повысить безопасность работы искусственного интеллекта: в числе прочего он обязывал технологические компании показывать властям свои системы ИИ до того, как они появляются на рынке.

Но вскоре после своей инаугурации Трамп отменил этот указ, и пока непонятно, какой будет его политика в этой области (в прошлом он говорил, что выступает за более мягкое регулирование сектора ИИ).

Книга «Зои», сочиненная искусственным интеллектом, досталась журналистке от подруги, в качестве подарка на Рождество

Тем временем американские суды рассматривают несколько исков против фирм, разрабатывающих ИИ-модели, особенно — против OpenAI. Их подали множество различных организаций, в том числе газета New York Times, а также писатели, музыкальные компании и даже один комик. Авторы исков настаивают, что ИИ-фирмы нарушили закон, поскольку без разрешения использовали для обучения своих моделей их произведения.

Но ИИ-компании утверждают, что делали это по принципу «добросовестного использования», то есть правила копирайта в данном случае не работают. Этот принцип, впрочем, может трактоваться неоднозначно, поэтому споры о том, должны ли технологические компании платить за использование контента при обучении своих моделей, продолжаются.

Если кто-то подумал, что все это не дает достаточную пищу для размышлений, за последнюю неделю в секторе ИИ произошло еще одно землетрясение: на рынок ворвалась китайская компания DeepSeek, приложение которой стало самым скачиваемым в американском магазине приложений Apple.

DeepSeek утверждает, что на разработку этой модели ушло на порядок меньше средств, чем на аналоги американского производства, такие как ChatGPT. В западных странах начали опасаться, что это приложение может быть небезопасным — и оно в любом случае угрожает нынешнему американскому доминированию в секторе ИИ.

Если же вернуться к моей журналистской карьере, то пока все говорит о том, что если я действительно захочу выпустить «бестселлер», то писать его мне придется самостоятельно. «Объяснение технологий для чайников» служит хорошей иллюстрацией того факта, что нынешние технологии генеративного ИИ не слишком хорошо справляются с проектами большего масштаба. В этой книге полно неточностей и «галлюцинаций»; местами ее довольно трудно читать, в том числе потому, что она такая многословная.

Но технологии сейчас развиваются очень быстро. Так что мне трудно сказать, долго ли еще проживет моя уверенность в преимуществе моих несравненно более медленных, чем у ИИ, навыков написания и редактирования текстов.

Зои Клайнман, BBC