Для проверки нейросетей на безопасность создадут специальные полигоны

Нейросети разделят на четыре уровня критичности, к ним будут предъявлять разные требования безопасности.

Минцифры создаст платформу для тестирования искусственного интеллекта на безопасность. Если нейросеть высокого и критического уровня риска, ей придется получить сертификат на соответствие требованиям ФСБ и Федеральной службы по техническому и экспертному контролю (ФСТЭК).

Тестировать ИИ будут на специальном полигоне, после чего системы допустят к использованию на объектах критической информационной инфраструктуры. К ним относятся: информационные системы госорганов, транспортные, финансовые, энергетические компании, сети связи. Об это пишет РБК.

Кроме того, все ИИ разделят на четыре уровня критичности:

• минимальный — когда ИИ не оказывает влияния на права и безопасность;

• ограниченный — когда системы должны сообщать пользователям о том, что они работают с нейросетью;

• высокий — нейросети применяют на объектах важной инфраструктуры;

• критический — когда системы угрожают жизни или здоровью человека, безопасности государства.

В критической информационной инфраструктуре запретят пользоваться ИИ, права на который принадлежат иностранным лицам.

Узнайте, как превратить технологии в личного помощника и увеличить доход: смотрите запись вебинара «Как ИИ помогает бухгалтеру выйти на аутсорс и зарабатывать больше в 2025 году».