Когда ИИ действует в реальном мире: как убедиться, что ему можно доверять
Физический ИИ (системы ИИ, действующие в реальном мире) активно внедряется в автопром — в автономные авто, роботакси, дроны, производственных роботов и др. Его развитие требует полноценной модели доверия: нужно чётко понимать, кто действует, от чьего имени, с какими разрешениями и на основании каких данных.Ключевой инструмент — цифровые идентификаторы для организаций, транспортных средств, машин, сервисов и агентов ИИ. Они формируют цепочку аутентификации и авторизации: с цифровыми подписями, временными метками, проверками целостности и аудиторским следом. Так можно однозначно установить, действует ли агент от имени производителя, поставщика или оператора.Не менее важно проверяемое происхождение данных: ИИ принимает решения на базе данных с датчиков, изображений и документов. Любые искажения (в том числе из‑за синтетических или обработанных ИИ данных) могут исказить оценку безопасности, привести к ошибочным решениям и даже к сбоям в управлении дорожным движением. Это критично для цепочек поставок (фальсифицированные паспорта и сертификаты) и автострахования (поддельные фото с места ДТП).Европейское регулирование задаёт рамки для решения этих задач:
eIDAS 2.0 — для цифровых удостоверений, подписей и услуг доверия;
Закон об ИИ — классифицирует системы по уровню риска и устанавливает требования к данным, документации, кибербезопасности и человеческому контролю;
Регламент ЕС по машиностроению — регулирует безопасность машин и роботов, включая роль обучаемых систем в концепции безопасности;
Регламент об экодизайне — делает цифровой паспорт продукта инструментом хранения и проверки данных об изделии, в том числе экологических.Для объединения данных и правил в отрасли развиваются отраслевые экосистемы. Например, Catena‑X задаёт общие стандарты и роли для обмена данными в автомобильной цепочке создания стоимости. Решения вроде Spherity позволяют уже сейчас внедрять доверие, авторизацию и отслеживание происхождения данных: каждое действие агента ИИ привязывается к ответственной организации, а любой документ или запись можно проверить на достоверность.
