Хелен Тонер, бывший директор OpenAI: «Даже если ИИ не получит дальнейшего развития, его влияние уже сопоставимо с влиянием Интернета».

В свои 33 года (родилась в Мельбурне, Австралия) Хелен Тонер имеет длительные и насыщенные отношения с искусственным интеллектом. Его определяющим моментом стало вхождение в совет директоров OpenAI в 2021 году, но еще более важным стало то, как он ушел, вскоре после голосования за увольнение Сэма Альтмана с поста генерального директора в ноябре 2023 года. Тонер отказывается обсуждать в этом интервью свой опыт работы в компании, создавшей ChatGPT, но ранее делился своим мнением: Альтман не был честен с советом директоров. «Мы узнали о ChatGPT из Twitter», — сказал Тонер. Он также добавил, что, по мнению некоторых руководителей, руководитель создал в компании «токсичную атмосферу».

Эта битва закончилась восстановлением Альтмана в должности . В настоящее время Тонер внимательно следит за развитием ИИ в сфере обороны и Китая — двумя его специализациями — в Центре безопасности и новых технологий при Джорджтаунском университете (Вашингтон, США). Он уже дал показания в Конгрессе о своем видении будущего ИИ, которое он объясняет в этом видеоинтервью.

Просить. Почему многие пользователи наделяют ИИ магическими свойствами?

Отвечать. Я бы сказал, что есть две причины. Во-первых, и это довольно очевидно, мы узнали об ИИ из научной фантастики, где ИИ часто непогрешим. Иногда она хорошая, иногда плохая, но у нее всегда есть правильные ответы, и она может сделать все, что угодно. Их роль в художественной литературе схожа с ролью фей, богов или сверхъестественных существ. Другая причина в том, что нам нужно изменить свое отношение к компьютерам. До сих пор, когда мы использовали технологии, они работали хорошо и предсказуемо. Если калькулятор может выполнять вычисления, он делает это правильно каждый раз; он никогда не ошибается на третьей цифре при делении в столбик. Но эти ИИ не такие: они не детерминированы, они дают разные ответы, они не следуют идеальному алгоритму. Это что-то новое, и мы к этому не привыкли.

В. Как далеко зайдет ИИ?

A. Есть люди, которые говорят так, как будто есть ясная цель: общий искусственный интеллект , который многие определяют как ИИ, столь же хороший, как человек. Но ИИ никогда не будет обладать такими же способностями, как человек. Уже есть вещи, в которых ИИ справляется гораздо лучше нас, а есть вещи, в которых он справляется хуже. Даже если мы достигнем уровня человеческого ИИ, он все равно будет отличаться. Я не думаю, что когда-нибудь у нас появятся роботы, которые будут так же хорошо танцевать сальсу или импровизировать в стиле свинг с другим человеком, как люди. Нет смысла строить что-то подобное. Но у нас будут очень мощные системы, способные превзойти людей в решении стратегических или интеллектуальных задач. Мы говорим так, как будто существует ясная судьба, но на самом деле мы не знаем, каким будет будущее.

В. Что вас больше всего беспокоит в отношении ИИ?

Р. У него много разных вкусов. Наиболее вероятными, на мой взгляд, являются те плохие сценарии, в которых мы решаем предоставить системам искусственного интеллекта все больше и больше автономии и все больше и больше интегрировать их в общество. Это был бы первый шаг. Второе может быть самым разным. Возможно, ИИ начнут сотрудничать друг с другом и в конечном итоге возьмут под контроль людей. Может быть, мы живем в мире, который кажется прекрасным, но в глубине души он не имеет смысла: мы проводим дни за просмотром TikTok , едим вкусную вредную пищу, но не ведем осмысленной жизни. Или небольшая группа людей сотрудничает с ИИ, захватывает всю власть, и мы оказываемся в тоталитарном мире.

В. Вы действительно думаете, что это может произойти?

О. Я думаю, что все может пойти очень, очень неправильно. И я думаю, что существует гораздо более широкий спектр вещей, которые могут пойти ужасно неправильно, чем просто «мы все умрем». Мы все можем умереть в конце концов, но сосредотачиваться только на этом сценарии — плохо.

В. Мы уже видим исследования , в которых ИИ способен манипулировать. Вы обеспокоены?

О. Это зависит от того, в чем он хочет вас убедить. Одно убеждение, которое мне кажется более реалистичным, — это что-то вроде культов, основанных на искусственном интеллекте, где люди верят, что искусственный интеллект — это их друг, что он следит за ними и является своего рода мудрецом, которому они должны следовать. История человеческих культов говорит нам, что основать их довольно легко, и люди совершают поистине безумные поступки. До сих пор в них обычно участвовало небольшое количество людей. Мы обязательно увидим культы, основанные на искусственном интеллекте.

В. Создание ИИ, способного возглавить культ, не кажется тривиальной задачей.

Р. Это будет интересно. По крайней мере, у многих людей будут личные отношения со своим ИИ . Это уже происходит.

В. Насколько продвинут Китай в области искусственного интеллекта?

О. Это зависит от того, какую часть ИИ вы рассматриваете. В более продвинутых системах США остаются впереди. Я работаю над вопросами национальной безопасности и думаю, что здесь сложнее разобраться. Гораздо важнее будет то, как ИИ будет применяться в армии. Я ожидаю, что дела у США будут обстоять лучше, чем у Китая, но это нелегко предсказать, и это проблема иного рода, чем создание более продвинутых моделей. Когда мы говорим о пограничных моделях, их также трудно измерить. Я не знаю, отстает ли Китай на один или два года. Самые последние данные, которыми мы располагаем , касаются запуска DeepSeek V3. DeepSeek выпустила две модели, и многие были в восторге от R1 — модели рассуждений. Однако многие из тех, кто работает в сфере искусственного интеллекта, считают, что другая версия, V3, более впечатляющая. Они выпустили его в декабре, и он, вероятно, отставал от эквивалентной модели в США на шесть-девять месяцев, а модель рассуждений отставала примерно на три-четыре месяца. Однако с тех пор американские компании продолжают наступать, а Китай пока не отреагировал. В настоящее время они отстают на шесть-двенадцать месяцев, но этот разрыв может увеличиться с введением контроля за экспортом микросхем.

В. Насколько нам следует бояться военного ИИ ?

О. ИИ — это много чего. Для армий это нормально. Во всех армиях есть огромный административный компонент с человеческими ресурсами и финансами, поэтому вполне разумно использовать его как бизнес. Также для анализа изображений, когда у вас гораздо больше материала, чем могут просмотреть аналитики-люди. Они также пытались использовать его для так называемого «прогностического обслуживания»: у вас много вертолетов, и вы хотите знать, когда следует проводить их техническое обслуживание. Если вы сможете лучше предсказать, когда двигатель выйдет из строя или когда потребуется замена детали.

В. А автономное оружие ?

Р. Дебаты об ИИ и военных действиях слишком сосредоточены на этой теме. И это лишь малая часть. Сосредоточение внимания только на автономном оружии — не лучший подход. Я думаю, что важнее сосредоточиться на уже существующих законах войны, на международном гуманитарном праве. Проводится ли различие между комбатантами и гражданскими лицами? Соразмерны ли меры реагирования на атаки? Когда мы представляем себе сценарии, в которых ИИ и война идут наперекосяк, это часто происходит потому, что, например, вместо комбатантов подвергаются нападениям мирные жители. А это уже незаконно согласно международному праву.

В. Будет ли бизнес-модель ИИ всегда основана на подписке?

О. Я думаю, что большие деньги поступят от предприятий, а не от потребителей. Поскольку это многоцелевая технология, а не просто забавный чат-бот, который люди носят в карманах, она станет мощным инструментом для всех видов экономической производительности и инноваций. Поэтому я предполагаю, что доход со стороны бизнеса будет очень большим.

В. Если ИИ не будет развиваться дальше, сможет ли он уже изменить экономику ?

О: Да. Универсальным технологиям, таким как ИИ, требуются десятилетия, чтобы интегрироваться в экономику. Даже если бы разработка ИИ остановилась, я не знаю, была бы эта трансформация столь масштабной, как предсказывают многие, но она была бы, по крайней мере, такой же масштабной, как Интернет. Переход от полного отсутствия интернета к его наличию занял у нас десятилетия. Даже если мы остановимся сейчас, нам все равно предстоит проделать огромный объем работы по интеграции ИИ в здравоохранение, образование, бизнес-процессы, юриспруденцию и финансы.

В: И достигли ли мы уже предела возможностей ИИ?

Р. Я бы на это не рассчитывал. История последних 15 лет в области ИИ не была историей крупных инноваций, которые полностью изменили бы сам принцип построения ИИ, а скорее историей небольших или средних улучшений, которые накапливались и в сочетании обеспечивали значительный прогресс. Сейчас у нас есть замечательные языковые модели — чат-боты , к которым мы уже привыкли. Однако компании продвигаются в двух основных направлениях. Во-первых, модели рассуждений : обучение детей пошаговому мышлению, чтобы они могли решать более сложные проблемы. И второе — агенты: выполняют работу за вас, принимают решения и работают продуктивно. В течение следующих 25 лет мы увидим огромный прогресс в этих областях.

В. Невозможно предсказать, в каком направлении.

A. ИИ изменит способ работы политической экономики общества. Сейчас мы живем в необычное время. Есть много демократических стран, где у власти находится народ. Но, похоже, это дает трещину. ИИ изменит баланс сил, например, на рынке труда. Какой властью обладают рабочие, если они бастуют? Сколько солдат нужно армии, если у вас есть определенные типы ИИ? Предположительно, с внедрением ИИ рабочая сила снизится. Хотя, если нам удастся создать мир, в котором люди будут удовлетворять свои основные потребности и иметь доступ к ИИ, это может быть прекрасный мир. Но меня также беспокоит то, что на протяжении большей части истории основным условием существования человечества было то, что правят те, у кого есть власть. А те, у кого этого нет, живут хуже.