Алгоритмы учатся тому, чего не должны: эксперт рассказал о скрытых рисках ИИ

Эксперт подчеркивает, что для повышения безопасности и доверия нужно делать ИИ более прозрачным — публиковать отчеты о тестах, использовать «песочницы» для проверки и инструменты, показывающие, как принимаются решения. В критически важных областях стоит применять проверяемые правила и модульный подход к обучению.

В образовании полезен метод AZR, при котором ИИ обучается только на проверенных данных — например, математике или программировании — чтобы избежать опасных ошибок из-за вредных текстов.