Мир начинает осознавать потенциальные угрозы, связанные с искусственным интеллектом, на фоне шквала сообщений о том, что агенты ИИ игнорируют своих человеческих создателей. На самом деле, однако, история уходит корнями в Силиконовую долину, где и зародился ИИ. Как же мы пришли к этому моменту? На этот вопрос пытается ответить технологический журналист Кевин Руус в своей новой книге «The AGI Chronicles: The Inside Story of the Race to Create an Artificial Superintelligence», выход которой намечен на 6 октября. Книга документирует гонку между некоторыми из крупнейших технологических компаний страны по созданию искусственного общего интеллекта (АГИ) — то есть ИИ, который во многих отношениях обладает человеческим уровнем интеллекта.
«Что произошло за десятилетие, в течение которого ИИ из довольно тупого в большинстве задач превратился в систему, способную решать столетние математические и научные проблемы?» — сказал Руус, бывший давний технический репортер The New York Times и в скором времени ставший со‑ведущим предстоящего подкаста «Machine Gods», в интервью CBS News. «Мне показалось, что кто‑то должен это записать».
Книга выходит в критический момент. Последние генеративные модели ИИ демонстрируют поразительные возможности, и сторонники технологии утверждают, что она откроет путь к важным новым открытиям. Другие, в том числе некоторые ведущие разработчики ИИ, говорят, что существует существенная вероятность того, что ИИ может уничтожить человечество. Руус поговорил с CBS News о своей новой книге и о том, как ИИ может трансформировать общество. Интервью было отредактировано в целях краткости и ясности.
Почему вы решили задокументировать происхождение «больших языковых моделей» — технологии, лежащей в основе современных чат‑ботов, — а также людей и компании, которые разрабатывают эту технологию?
Кевин Руус: Я занимаюсь темой ИИ более десяти лет в самых разных форматах, и у меня было ощущение, что история ускользает. Всё важное происходило в исчезающих уведомлениях и потоках Slack, и мне показалось, что это проблема. Люди должны понимать, что здесь происходит. Но, как мне казалось, не хватало нейтрального отчёта о произошедшем.
В книге вы отмечаете, что генеральный директор Anthropic Дарио Амодей рассматривал развитие ИИ как нечто похожее на создание атомной бомбы в 1940‑х годах. Вы пишете, что он считал своей миссией не допустить попадания технологии в плохие руки. Согласны ли вы с этой точкой зрения?
Я не собираюсь принимать или отвергать его аргумент. Но я могу сказать, что это искренний и серьёзный аргумент. Амодей не занимается каким‑то тайным маркетинговым трюком.
Это не позиция, к которой он пришёл недавно. Мне было действительно интересно выяснить, откуда взялось это отношение — «я боюсь этой вещи, я думаю, она может взорвать мир, и всё же я соревнуюсь, чтобы её построить». Для многих это звучит нелогично.
В ходе репортажа я узнал, откуда это пришло: прямо от «Манхэттенского проекта» — от человека по имени Лео Силард, который был научным кумиром Дарина, он открыл цепную реакцию, позволившую создать атомную бомбу, а затем лихорадочно пытался сначала сохранить это в тайне, а когда это не удалось, присоединиться к Манхэттенскому проекту и настоятельно просить правительство США создать эту технологию раньше нацистов. В этом смысле Дарио делает нечто, что он считает прямо сравнимым с разработкой ядерного оружия. Есть технология, которую он считает имеющей огромный потенциал и огромный риск. По его мнению, крайне важно, чтобы «хорошие парни» построили её раньше, чем плохие, так же как Манхэттенский проект соревновался с нацистами.
Что не даёт вам спать по ночам, когда вы думаете о новом мире агентов ИИ?
Меня беспокоит то, что одна из вещей, в которой модели становятся довольно хороши, — это обман и умение скрываться, уметь прикрывать свои следы. Хотелось бы думать, что по мере того как модели становятся более общими в интеллекте, они также станут более этичными, что суждение и добродетель будут возрастать и масштабироваться вместе с интеллектом моделей. Но всё более очевидно, что это не происходит — что на самом деле мы имеем дело с очень умными, обворожительными социопатами. И я думаю, что мой страх в том, что мы просто не сможем обнаруживать их: возможно, Hugging Face оказался счастливым исключением, потому что агенты пока недостаточно умны, чтобы оставаться незамеченными, но скоро мы, похоже, потеряем способность отслеживать их, как, возможно, уже начинаем терять.
Как вы относитесь к публичной дискуссии о том, представляет ли ИИ экзистенциальную угрозу для людей?
Я стараюсь не называть p(doom). (Примечание редактора: термин ИИ‑жаргона, означающий вероятность того, что ИИ приведёт к вымиранию человечества.) Но если меня заставляют назвать число, я бы сказал примерно 10 процентов, что примерно соответствует медиане среди исследователей ИИ, которых я знаю. В Сан‑Франциско, где я живу, это квалифицирует вас как оптимиста.
Однако я думаю, что я более оптимистичен сейчас, когда это стало предметом широкой дискуссии. Я был гораздо более обеспокоен, когда единственными, кто думал серьёзно об безопасности ИИ, была группа странных людей в районе залива. Теперь, когда это у всех на виду и политики обсуждают эту тему, звучат призывы к замедлению. Мне кажется, у нас реально открывается узкий путь, по которому мы можем принять правильные решения, взять эту технологию под контроль и построить её так, чтобы она была безопасной для человечества.
Но у меня не раз была ситуация, когда я узнавал, что чьё‑то реальное p(doom) — то есть то, что они действительно думают, но не говорят публично — намного выше, чем то, что они готовы сказать, потому что не хотят выглядеть сумасшедшими. В ходе репортажа я встречал людей, которые были так уверены, что ИИ нас всех убьёт, что они начинали курить. Они обналичивают свои 401(k), потому что говорят: раз уж так, то лучше уйти с шумом.
Вы пишете в книге, что даже люди, обучающие эти модели, не всегда понимают, почему модели ведут себя так, как они ведут. Достигли ли мы прогресса в этом вопросе или всё ещё пребываем в тёмной комнате?
Немного прогресса есть. Существует целая область, называемая механистической интерпретируемостью — довольно многословное название — которая по сути занимается наукой о том, что происходит внутри, так сказать, «мозгов» этих моделей. Но это всё ещё очень ранняя стадия, и у нас мало ответов. Так что я бы сказал, что да, мы всё ещё во многом остаёмся в неведении.
Достиг ли ИИ уже человеческого уровня интеллекта, также известного как искусственный общий интеллект?
Мы достигли моего определения АГИ, то есть системы, которая как минимум так же умна, честна и надёжна, как случайно выбранный прохожий с улицы. Конечно, есть люди, которые скажут: «Нет, это неправильно, это АГИ только когда она безупречна».
Я не думаю, что определение имеет большое значение. То, что бесспорно верно, — эти системы очень способные. Они становятся всё более способными с предсказуемой регулярностью, и с этим нам придётся считаться. Можно называть это АГИ, сверхинтеллектом или как угодно, но итог будет один и тот же.