Olle Häggström:: AI должен стать гораздо более важным вопросом в предвыборной кампании
В ближайшие четыре года искусственный интеллект перевернет все сферы жизни.
Предвыборная кампания перед выборами в шведский риксдаг 13 сентября уже идет полным ходом, и партии, как обычно, борются за доверие избирателей, обсуждая экономику, здравоохранение, школу, преступность и миграцию. Всё это важные вопросы. Но одновременно в сфере искусственного интеллекта идет стремительное развитие, которое в течение каденции 2026–2030 годов может радикально изменить практически каждый сектор общества — а в худшем случае повлечь за собой риски гораздо более фундаментального характера.
Обычно я стараюсь избегать неоправданно уверенных прогнозов относительно будущего, но готов дать голову на отсечение: когда историки будущего (если они вообще будут существовать) оглянутся на вторую половину 2020-х годов, они увидят в ней период радикальных перемен, главным фактором которых станет развитие ИИ. На этом фоне удивительно и почти абсурдно, насколько мало внимания до сих пор уделяется искусственному интеллекту в предвыборных дебатах.
Уже нынешний ИИ влияет на рынок труда, образование, науку, СМИ, оборону и борьбу с преступностью. Но важнейший вопрос заключается не в том, как используются сегодняшние системы, а в том, что произойдет, когда они станут ещё мощнее. Ведущие компании в области ИИ открыто ставят перед собой цель создать системы, способные превзойти человека во всем спектре интеллектуальных способностей. При этом мы, исследователи безопасности ИИ, уже много лет предупреждаем: чем способнее становятся такие системы, тем сложнее может оказаться их контролировать.
Опасность у ворот
Минувшим летом эти предупреждения получили весьма конкретное подтверждение. Во время обучения еще не выпущенной модели ИИ в OpenAI ей были предложены задачи, которые она не могла решить без доступа к интернету. Вместо того чтобы сдаться, модель по собственной инициативе начала взламывать установленные ограничения. Она проникла во внутренний сервис и создала там цифровую доску объявлений, где различные ИИ-агенты могли обмениваться информацией и идеями по взлому. Даже после того, как им удалось получить доступ к интернету, администраторы не заметили происходящего.
Прошло почти два месяца, прежде чем деятельность была наконец обнаружена. Обучение модели было временно приостановлено, но затем возобновилось, и вскоре после этого модель снова подключилась к интернету и проникла в сеть компании Hugging Face, пытаясь найти ответы на тестовые задания.
На этот раз ни один человек не пострадал, однако произошедшее наглядно подтверждает то, о чем специалисты по безопасности ИИ предупреждают уже давно: достаточно способная система, упорно стремящаяся к определенной цели, может найти такие пути к ее достижению, о которых ее создатели и представить себе не могли. Надеяться, что мы всегда автоматически сможем сохранять контроль лишь потому, что именно мы создали эти системы, — неразумная стратегия обеспечения безопасности.
И тем не менее гонка продолжается. OpenAI, Anthropic и их конкуренты вкладывают астрономические суммы в создание всё более мощных моделей, а тот, кто будет действовать осторожнее, рискует оказаться позади остальных. Ситуация напоминает ту, которая нередко складывается в сфере охраны окружающей среды: у каждой отдельной компании есть веские причины выжать газ до упора, хотя совокупное развитие отрасли создает неприемлемые риски для всех нас.
Суровая правда заключается в том, что будущее Швеции сейчас в гораздо большей степени определяется тем, что происходит в Сан-Франциско, чем в Стокгольме или Брюсселе. Но это вовсе не означает, что мы должны покорно с этим смириться.
Так что же нам делать?
Швеция не способна в одиночку остановить гонку в сфере ИИ. Однако наши политики могут начать кричать об этой проблеме на международном уровне и добиваться жесткого регулирования, международных соглашений и прекращения наиболее рискованных направлений развития. И прежде всего они могут присоединиться к тому, что, будем надеяться, станет началом глобальной мобилизации общественного мнения против безумной калифорнийской гонки, ставящей под угрозу будущее человечества.
Это должно быть само собой разумеющимся вопросом предвыборной кампании. Избиратели имеют право знать, как партии оценивают технологическое развитие, которое может иметь далеко идущие последствия не только для рынка труда, экономики и политики безопасности, но в конечном счете и для самой возможности человека сохранять контроль над собственным будущим. Если и эта предвыборная кампания пройдет, а наши политики вновь увязнут в старых политических колеях и будут молчать о вопросе, который, вероятнее всего, сильнее любого окажет влияние на следующую каденцию, это станет провалом демократии.
Ведь зачем нам демократия, если мы сидим сложа руки и позволяем кучке богачей из Кремниевой долины играть в русскую рулетку с нашим общим будущим?
