Совесть интернета
Наше будущее с ИИ похоже на научно-фантастический фильм, полный опасностей или потенциала. Какой сценарий сбудется?
Искусственный интеллект в Кремниевой долине развивается бешеными темпами. ChatGPT, Bard, Gemini, OpenAI, Bing AI – каких-то 15 месяцев назад никто и не слышал об этих программах и компаниях. Китай также стал лидером в разработке и использовании ИИ и цифровых технологий.
А теперь догнать их пытаются французская компания Mistral AI и немецкая Aleph Alpha с финансированием от SAP и Bosch – начальные вложения в них уже достигли сотен миллионов евро. Что более угрожающе – насколько быстро на втором плане оказались опасения относительно рисков этих новых технологий, пока в приоритете коммерческие интересы и соображения национальной безопасности. Об осторожности все забыли – это новая золотая лихорадка, и соревнование в самом разгаре.
Тем временем правительства стараются не отставать с законодательным регулированием вопроса. ЕС заслужил глобальную репутацию как «совесть интернета» за попытки урегулировать технологические компании-гиганты. Однако недавние попытки принять первый Закон об ИИ на Глобальном Севере провалились из-за резкой смены курса нескольких стран – членов ЕС, в частности Германии, Франции и Италии.
Три крупнейшие страны, явлюющиеся членами ЕС, использовали свое влияние, чтобы сорвать месяцы переговоров и компромиссов, угрожая свести на нет все это новаторское законодательство. В определенных коридорах влияния внезапно появились опасения, что в случае принятия закона ЕС подорвал бы способность собственных компаний внедрять инновации и догонять Кремниевую долину и Китай. Вероятно, неслучайно соучредителем Mistral AI стал бывший госсекретарь Франции, который имеет возможность напрямую общаться с президентом Эмманюэлем Макроном.
Роль военной сферы в технологическом развитии
Франция и Германия давно и серьезно страдают завистью к Кремниевой долине, а потому у них особый риск принять неправильную стратегию развития ИИ. Когда европейцы сетуют, мол, где европейские Google, Apple, Microsoft и Amazon, что теперь превратилось в «где европейские OpenAI и Tesla», они забывают, что значительная часть технологий происходит из огромных расходов на военную сферу, которая десятилетиями финансирует Кремниевую долину.
Еще в 1930-х годах и в течение Второй мировой войны район Сан-Франциско был ключевым местом проведения правительственных исследований и развития технологий. В 1950-х годах соседний Стэнфордский университет привлекал лучшие таланты в сфере технологий в такие компании, как Fairchild Semiconductor и Bell Telephone Laboratories, которые сосредотачивались на военных приоритетах, таких как реагирование на космический спутник Советского Союза «Спутник».
Знакомые нам технологии, в частности профинансированный военными ARPANET, который стал первой версией интернета, Siri от Apple, Всемирная паутина, Google Maps, автоматизированный транспорт и искусственный интеллект, сначала появились как военные проекты.
Семь из десяти стартапов Кремниевой долины закрываются, а девять из десяти так и не становятся прибыльными
С учетом стабильной базы инвестиций в эти стартапы за счет налогоплательщиков венчурные капиталисты в Кремниевой долине позволяют себе роскошь вкладывать свои частные средства в такие новые, неопределенные компании и технологии. Семь из десяти стартапов Кремниевой долины закрываются, а девять из десяти так и не становятся прибыльными. Но победители этой инвестиционной лотереи – OpenAI, Google, Amazon, Meta/Faebook – становятся лидерами отрасли и приносят огромные прибыли.
В Китае сейчас действует подобная стратегия, в которой технологические компании спонсирует государство и военный сектор. Готовы ли Германия или ЕС прибегнуть к столь рискованному и дорогостоящему курсу развития с финансированием через военный сектор? Вряд ли.
Уровень финансирования в ЕС значительно уступает США и Китаю
ЕС уже несколько лет пытается увеличить финансирование и инвестиции в развитие искусственного интеллекта, но успехи пока весьма ограниченны. Уже неоднократно звучали громкие заявления о новых источниках финансирования из ЕС, Германии, Франции и Великобритании, но фактически «на карту» ставили довольно скромные суммы денег.
В 2022 году частные инвестиции в искусственный интеллект в США составили $47,4 млрд, что значительно превышает инвестиции в Китае в размере $13,4 млрд. В ЕС частные инвестиции составили всего лишь около $6,6 млрд, причем Британия не слишком отстает с инвестициями в размере $4,4 млрд. В течение последних десяти лет это неравенство было еще заметнее: суммы частных инвестиций в США выросли до $241 млрд, в Китае – до $95 млрд, а в ЕС – до $16 млрд, что еще меньше, чем в одной только Великобритании, где эта цифра составила $18 млрд.
Но не означают ли недавние инвестиции в ЕС, что он наконец начинает догонять конкурентов? Отнюдь. Если смотреть на количество ИИ-компаний, получивших финансирование в 2022 году, США далеко впереди с 542 компаниями, Китай значительно отстает со 160, а ЕС еще дальше со 140 компаниями.
И это только частное финансирование, не говоря уже о том, что тратят правительства и военные департаменты США и Китая. В последние годы США ежегодно тратит около $7 млрд на незасекреченные проекты в сфере ИИ и смежных отраслях – эта цифра выросла на 32 процента по сравнению с 2012 годом. Но миллиарды также пошли на засекреченные исследовательские проекты, хотя точная цифра здесь неизвестна.
США и Китай тратят реальные средства – значительно больше, чем может себе позволить Европа. Инвестиции и исследования в ЕС должны быть более реалистичными и стратегическими, даже с учетом того, что ЕС продолжает свою траекторию как «совесть» в сфере развития цифровых технологий. Каким может быть альтернативный «европейский путь» развития ИИ?
Отсутствующее видение ИИ
Среди многочисленных заголовков традиционно пропускают вопрос о том, какое именно исследование искусственного интеллекта больше всего отвечало бы общественным интересам. Надлежащее развитие искусственного интеллекта в идеале должно приносить пользу человечеству, а не фокусироваться исключительно на коммерческом платном применении или использовании в военных целях, которое еще больше способствует изоляции отдельных стран.
Эти недостатки и указывают на потенциальное направление деятельности Европы, которое могло бы стать уникальным и превратить ЕС в мирового лидера. ЕС и его страны-члены должны и в дальнейшем финансировать разработку искусственного интеллекта и поддерживать бизнес и научные учреждения в его разработке. Правительства также могут приложить усилия, чтобы помочь важной сфере малого и среднего бизнеса внедрить наиболее актуальные ИИ-технологии. Не всегда важно, где именно разработаны технологии или какими компаниями. Важнее уметь практически внедрять эти технологии в бизнесе и обществе, чтобы были очевидные преимущества для людей, а экономика оставалась конкурентоспособной.
Но если Германия и ЕС в целом пожертвуют своей ключевой ролью «совести» развития ИИ, они потеряют важную позицию в глобальной экономике. Именно поэтому недавний отказ от регулирования ИИ в Европе такой досадный.
Лидерам ЕС, Германии и Франции не стоит недооценивать политическую, экономическую и моральную ценность своей роли как совести интернета
Первоначальная цель этого законодательства заключалась в том, чтобы ввести новый глобальный стандарт для стран, стремящихся воспользоваться потенциальными преимуществами ИИ-технологий и одновременно защитить людей от потенциальных рисков, таких как уничтожение рабочих мест, распространение дезинформации онлайн или угрозы для национальной безопасности. В Законе о цифровых услугах и Законе о цифровых рынках ЕС установил важный прецедент, ведь согласно им крупные компании и их потенциально опасные технологии считаются «систематическими рисками», которые подлежат дополнительному контролю, требованиям прозрачности и урегулированию. После того, как этот подход поддержали и в разработке Закона об ИИ, Германия, Франция и Италия внезапно решили отказаться от этого «принципа предотвращения».
В конце концов удалось достичь компромисса, но несмотря на свежие заголовки, в которых утверждается, что в ЕС согласовали условия этого знакового закона, пока это лишь предварительное согласование, а работа над деталями еще не закончена. В частности, обсуждаются пункты относительно строгости правоприменения, исключения, связанные с рисками национальной безопасности, а также стоит ли запрещать определенные виды применения технологий, напоминающие Оруэлловскую антиутопию, такие как технологии предсказания эмоций, полицейская работа на основе прогнозов, удаленная биометрическая идентификация, которая могла бы потенциально привести к массовой слежке.
Лидерам ЕС, Германии и Франции не стоит недооценивать политическую, экономическую и моральную ценность своей роли как совести интернета. Реалистичная оценка места ЕС в условиях стремительного развития ИИ дает понять, что инновации – это не только о технологиях, но и о формировании самых безопасных и наиболее человечных правил пользования цифровой инфраструктурой в XIX веке.
Наше будущее с ИИ пишется уже сегодня, и оно похоже на научно-фантастический фильм, полный опасностей или потенциала. Какой сценарий сбудется – зависит от качественных регуляторных предохранителей.
Автор: Стивен Хилл (Steven Hill) — бывший директор по политическим вопросам Центра гуманных технологий, бывший журналист-резидент Берлинского центра социальных наук (WZB) и автор семи книг, в том числе Raw Deal: How the Uber Economy and Runaway Capitalism Are Screwing American Workers («Нечестная сделка: как экономика Убера и беглый капитализм обманывают американских рабочих») и Die Start-up-Illusion: Wie die Internet-Ökonomie unseren Sozialstaat ruiniert («Иллюзия стартапа: как интернет-экономика разрушает наше социальное государство»).
