Эксперт по ИИ Лещенко: есть механизм по контролю развития искусственного интеллекта
- Сгенерировано с помощью ИИ
По словам аналитика, важно держать под контролем не только саму ИИ-модель, но и то, к каким данным она имеет доступ.
«Нужны обязательные проверки таких систем до запуска, включая сертификацию и оценку на соответствие федеральным, отраслевым и корпоративным нормативам. Важно контролировать не только саму модель, но и к каким данным и их источникам она имеет доступ», — пояснил Лещенко.
Как он отметил, механизмы контроля для разных ИИ-технологий различаются.
«Для обычного ИИ-помощника, который делает черновик письма или презентации, одни требования. Для системы, которая отбирает людей на работу, принимает решение по кредиту, помогает врачу или управляет оборудованием, — совсем другие», — подчеркнул аналитик.
Лещенко также констатировал, что на данном этапе крупные компании в сфере ИИ находятся «в гонке за рынок», пользователей, инвестиции, вычислительные мощности и лучшие кадры.
«В такой логике безопасность иногда воспринимается как фактор замедления нового релиза», — заявил эксперт.
Однако, по его словам, международные правила эксплуатации искусственного интеллекта необходимы.
«Не обязательно ждать единого мирового закона о ИИ. Сомневаюсь, что он появится. Но можно договариваться по конкретным ключевым темам: инфобезопасность, критическая инфраструктура, дипфейки, медицина, образование и т. д. Критично важно обсуждать и включать ограничения ИИ, где возникает передача прав технологиям принимать решения, от которых зависит жизнь человека… Поэтому принцип должен быть простым: чем выше цена ошибки, тем больше человеческого контроля и возможности нажать на кнопку «Стоп ИИ», — пояснил Лещенко.
Он полагает, что бояться «немедленного восстания машин» точно не стоит, поскольку «современные модели не обладают собственной волей», сознанием и не имеют самостоятельных целей, но и «успокаиваться тоже рано».
«ИИ уже умеет очень убедительно ошибаться, создавать фальшивые фото, видео и голоса, помогать мошенникам, ускорять кибератаки и масштабировать дезинформацию. Однако самая реальная угроза сегодня — не мифический сверхразум, а человек или организация, которые используют мощный ИИ без критической проверки. Особенно опасно, когда такой инструмент получает доступ к деньгам, персональным данным, системам управления производством, энергетикой, транспортом или корпоративной инфраструктурой», — отметил Лещенко.
Ранее зампред Совбеза России Дмитрий Медведев заявил, что перспектива гибели человечества от ИИ туманна, но нанесение ущерба вероятно. Он отметил, что странам стоило бы попытаться договориться о принципах использования ИИ, но этого «не выйдет из-за жадности корпораций».