В Армении задумались над внедрением ИИ в систему госзакупок: Что это значит и какие есть подводные камни?

14.01.25 | 11:38

С развитием технологий искусственного интеллекта (ИИ) мир вступает в новую эру, где традиционные процессы подвергаются глубоким изменениям. Одной из таких сфер, активно осваивающих инновации, являются государственные закупки. Однако, как и в любом технологическом внедрении, существуют вызовы, с которыми предстоит столкнуться как разработчикам технологий, так и правительственным органам.

Но обо всем по порядку…

Первые шаги

Министр высокотехнологичной промышленности Армении Мхитар Айрапетян уверен, что в концепции реформ сферы общественного управления ИИ будет играть очень большую роль уже в ближайшем будущем. Ну а пока, в Армении на первом этапе задумались над внедрением инструментов в процесс госзакупок.

«Я как министр высокотехнологичной промышленности не представляю эффективных госзакупок без внедрения этих технологий. Сегодня мы проводим интенсивные обсуждения с теми армянскими технологическими компаниями, которые уже имеют успех в вопросе продвижения инструментов ИИ. На данном этапе мы пытаемся найти соответствующие инструменты и предложить их нашим коллегам из Министерства финансов. Как вы знаете, сейчас реализуется большая реформа в сфере госзакупок. Полагаю, МВП может сыграть позитивную роль для ускорения и повышения эффективности этих реформ», — заявил он.

Внедрение ИИ: Как это работает?

В целом, в странах, внедривших ИИ в систему госзакупок, инструменты ИИ применяются для решения различных задач: от автоматизации процессов до борьбы с коррупцией. ИИ может автоматизировать множество рутинных задач, таких как обработка заявок, проверка документов и управление закупками. Это позволяет ускорить процессы, сократить количество ошибок, связанных с человеческим фактором, и снизить административные расходы.

Также ИИ применяют для обработки больших объемов данных, собираемых в ходе тендеров и других закупочных процедур. Это позволяет прогнозировать потребности в закупках на основе исторических данных, определять тенденции, что помогает более точно планировать бюджет и минимизировать излишние расходы, проводить анализ эффективности прошлых закупок для оптимизации будущих решений.

ИИ может усилить прозрачность всего процесса госзакупок, поскольку алгоритмы могут отслеживать, кто участвует в тендерах, сколько и какие товары или услуги предлагаются, а также как распределяются контракты.

Технологии блокчейн могут быть использованы для обеспечения неизменности и прозрачности всех сделок и заявок в реальном времени. Системы на базе ИИ могут проводить постоянный мониторинг и анализ всех этапов закупок для выявления подозрительных действий. Так, алгоритмы могут выявить аномалии в тендерах, такие как искусственно завышенные цены, манипуляции с выбором поставщиков или их необоснованный фаворитизм.

Также возможно применение машинного обучения для анализа паттернов и выявления потенциальных схем мошенничества или конфликтов интересов. ИИ помогает в автоматизации выбора поставщиков на основе объективных критериев, таких как цена, качество и предыдущие результаты работы. Алгоритмы могут анализировать опыт поставщиков, их репутацию, финансовое состояние и способность выполнить обязательства.

Внедрение ИИ повышает вероятность того, что тендеры не будут выиграны компаниями, которые не могут качественно выполнить контракт или являются аффилированными с государственными должностными лицами, как это часто происходит в Армении. ИИ может помочь управлять рисками, связанными с поставками и выполнением контрактов. В частности, ИИ может быть задействован в прогнозировании возможных проблем в процессе выполнения контракта, например, задержек или невыполнения обязательств.

Обратная сторона медали

Однако использование ИИ — это не только “история о хорошем”: говорить о полном исключении злоупотреблений даже тут не приходится. Внедрение ИИ в сферу государственных закупок привносит и новое качество рисков, связанных с возможными злоупотреблениями со стороны ответственных лиц.

После внедрения ИИ существует риск манипуляций с алгоритмами или данными для личной выгоды. Например, ответственность за обучение алгоритмов может быть передана «своим доверенным» лицам, которые могут внести в систему предвзятые данные, чтобы подтасовать результаты тендера. Это особенно опасно в таких странах, как Армения, где правовая система недостаточно развита, а злоупотребления и кумовство процветают.

«Ответственные лица могут искажать данные, используемые для обучения ИИ. В результате решения будут приниматься на предвзятых алгоритмах или недостаточной проверке данных, что в свою очередь обеспечит результаты, которые будут исходит из меркантильных интересов отдельных должностных лиц. Кроме того, некоторые ИИ-системы могут быть "черными ящиками", что затрудняет понимание и объяснение их решений. Это может привести к ситуации, когда решения ИИ не поддаются проверке и контролю со стороны ответственных лиц», — пишет Issues in Science and Technology.

Еще одной актуальной и опасной проблемой, связанной с внедрением таких технологий, являются риски утечек данных. Госзакупки подразумевают обработку большого объема конфиденциальной информации, включая данные о тендерах, контрактах, финансовых обязательствах поставщиков и личных данных участников. Когда эти данные становятся частью ИИ-систем, существуют серьезные угрозы, связанные с их утечкой, манипуляцией и несанкционированным доступом.

ИИ-системы, как и любые другие цифровые платформы, могут стать мишенью для хакеров. Особенно опасен несанкционированный доступ к данным тендеров и контрактов, так как информация может быть использована для манипуляций, таких как изменение условий контрактов или создание условий для коррупции.

Кроме того, ИИ-системы могут ошибаться при обработке данных, что может привести к утечкам или неправильному распределению информации. Например, если алгоритм неправильно обрабатывает запросы на доступ к данным, может возникнуть ситуация, когда конфиденциальная информация, предназначенная для ограниченного круга лиц, становится доступной для широкой аудитории.

Таким образом, внедрение ИИ в систему госзакупок может стать важным шагом для улучшения эффективности этого процесса, экономии средств и оптимизации выпора поставщиков. Однако, внедрение этих технологий подразумевает и появление новых рисков — как по линии злоупотреблений, так и по части утечек конфиденциальных данных. Многие страны, такие как Китай, РФ, США и ЕС, уже успешно используют ИИ в своих госзакупках, и опыт этих стран может стать ценным ориентиром для Армении. Многие эксперты упоминают, что важно обеспечить всесторонний контроль и гарантии прозрачности в процессе внедрения ИИ, чтобы минимизировать риски и обеспечить эффективное использование технологий в интересах общественного блага.