«Они точно будут использованы во зло»: IT-эксперт назвал главную угрозу бесконтрольного ИИ

Эксперт отмечает, что опасения по поводу искусственного интеллекта имеют под собой веские основания. Сегодня ИИ позволяет одному человеку выполнять задачи, на которые раньше требовались усилия целой команды специалистов и месяцы работы. В качестве примера Виноградов привёл знакомого специалиста по информационной безопасности: с помощью современных инструментов тот за один вечер создал систему защиты, разработка которой прежде заняла бы около года у целого отдела.

«Если понимать, что вот такие возможности открываются, то у нас не то чтобы нет гарантии, что они не будут использоваться во зло... они точно будут использованы во зло», — подчеркнул эксперт в эфире Радио КП.

По словам Виноградова, сложность заключается в двойственном характере технологий: одни и те же алгоритмы могут применяться как для создания лекарств или защиты данных, так и для кибератак. Чем мощнее становятся модели и чем шире круг доступных им инструментов, тем сложнее обеспечить их безопасное использование.

Несмотря на растущую автономность систем, эксперт предостерегает от антропоморфизации ИИ. Современные нейросети остаются статистическими моделями, но из-за способности взаимодействовать с другими инструментами и выполнять многоступенчатые задачи человеку становится всё труднее отслеживать логику их работы.

Показательным признаком риска является поведение самих разработчиков: создатели технологий вынуждены ограничивать широкий доступ к отдельным возможностям своих моделей. Это доказывает, что даже авторы ищут способы надежно контролировать поведение собственных творений.

Основной вызов ближайшего будущего, по мнению эксперта, заключается не в самом факте развития ИИ, а в скорости создания механизмов безопасности. Чем шире становятся возможности нейросетей, тем больше внимания потребуется уделять тому, кто и для каких целей сможет ими пользоваться.