Учёный Попков: ИИ уже работает с потенциально опасными знаниями
- Сгенерировано с помощью ИИ
Учёный оценил в беседе с RT создание полной модели нервной системы и мозга мухи-дрозофилы с применением ИИ. По словам Попкова, загрузку в нейросети данных об устройстве мозга не стоит считать новой угрозой.
«Современные системы уже обучаются на огромных массивах информации из интернета, включая научные и технические знания. Разработчики намеренно учат ИИ работать с физическим миром: создают модели для робототехники и беспилотных автомобилей, обучают системы управлять дронами. Это направление развивается независимо от картирования мозга», — пояснил эксперт.
При этом Василий Попков отметил, что если система способна действовать во вред, то дополнительные знания теоретически могут повышать риски.
«Но «джинн» в этом смысле давно выпущен из бутылки: ИИ уже работает со знаниями, имеющими потенциально опасные применения, в том числе в химии, биологии и кибербезопасности. Риск определяется возможностями системы, целями её применения, доступом к реальным действиям и качеством контроля», — рассказал эксперт.
Одновременно, по мнению Василия Попкова, представление об устройстве мозга может помочь эффективнее организовывать вычисления и обучение в сфере ИИ.
Подробнее о проекте, посвящённом мозгу мухи, и о том, что он может значить для развития нейросетей, — в материале RT.