Три раза, когда правительство США уже потерпело неудачу в технологиях

Новое расследование утверждает, что федеральное правительство бросается в искусственный интеллект так же, как оно бросилось в облачные вычисления десять лет назад, и с теми же структурными уязвимостями, которые все еще существуют.

Рене Дадли из ProPublica опубликовала расследование 6 апреля, утверждая, что администрация Трампа, поощряя федеральные агентства к быстрому внедрению ИИ от крупных технологических компаний, повторяет модели, которые преследовали переход Вашингтона на облачные вычисления, где скорость превзошла безопасность, надзор был лишен финансирования, и правительство в конечном итоге стало глубоко зависимым от подрядчиков, над которыми у него было мало рычагов влияния.

Белый дом позиционировал ИИ как императив национальной конкурентоспособности. Агентства теперь могут получить доступ к ChatGPT от OpenAI за 1 $, Gemini от Google за 47 центов на пользователя и Grok от xAI за 42 цента. Формулировка, пишет Дадли, точно отражает язык, используемый, когда администрация Обамы объявила облачные вычисления трансформационным приоритетом в начале 2010-х годов.

Урок первый: Бесплатных обедов не бывает. Расследование ProPublica показало, что обещание Microsoft в 2021 году предоставить федеральному правительству услуги безопасности на 150 миллионов $ было, на практике, механизмом привязки. После того как агентства приняли бесплатные обновления, переход к конкуренту был бы дорогостоящим и разрушительным. "Это было успешнее, чем кто-либо из нас мог себе представить", - сказал ProPublica один бывший продавец Microsoft. Как сообщает crypto.news, Microsoft и OpenAI с тех пор столкнулись из-за условий их собственного партнерства по ИИ, что является сигналом того, насколько напряженными могут быть контракты больших технологических компаний по ИИ даже между вовлеченными сторонами.

Урок второй: Программы надзора требуют реальных ресурсов. Федеральная программа управления рисками и авторизацией, известная как FedRAMP, была создана в 2011 году для проверки услуг облачные вычисления, прежде чем федеральным агентствам разрешалось их использовать. ProPublica обнаружила, что агентство изнуряло FedRAMP в течение пяти лет, чтобы получить одобрение для крупного облачного продукта, несмотря на серьезные опасения по поводу кибербезопасности. Это было до DOGE. FedRAMP теперь говорит, что работает "с абсолютным минимумом персонала поддержки" и "ограниченным обслуживанием клиентов". Представитель GSA защищал программу, заявив, что она "работает с усиленными механизмами надзора и подотчетности", но бывшие сотрудники сказали ProPublica, что она функционирует как штамп.

Урок третий: Независимые проверки настолько же независимы. По мере того как внутренние возможности FedRAMP сократились, сторонние аудиторские фирмы взяли на себя большую часть функции проверки. Эти фирмы получают оплату от тех же облачных компаний, которые они оценивают. Агентства, часто недоукомплектованные, не имеют возможности проводить собственные тщательные проверки и в значительной степени полагаются на эти оценки. Как отметил crypto.news, более широкая озабоченность наблюдателей заключается в том, что правительства последовательно медленнее управляют трансформационными технологиями, чем компании, которые их развертывают.

Модель, которую Белый дом не решил

GSA признало, что "затраты на использование ИИ могут быстро расти без надлежащего мониторинга и контроля управления" и посоветовало агентствам установить лимиты использования и проверять отчеты о потреблении. Но основные структурные проблемы остаются: недофинансированные органы надзора, обзоры, зависящие от поставщиков, и агентства с небольшими рычагами влияния после того, как внедрение укоренится.

Заключение Дадли точное: "Последствия этого сокращения для федеральной кибербезопасности далеко идущие", поскольку агентства берут на себя инструменты ИИ, которые обрабатывают конфиденциальные правительственные данные в рамках той же ослабленной структуры надзора, которая испытывала трудности с управлением облаком.