На сайте ЦЕРН размещена интересная публикация, посвященная проблемам компьютерной безопасности при использовании искусственного интеллекта (ИИ).

Картинка, сгенерированная ИИ

Развитие искусственного интеллекта открывает множество возможностей, но также сопряжено с рисками.

Это может привести к созданию более качественного программного обеспечения и кода (или нет). К получению более убедительных ответов (или просто более убедительной лжи). К созданию более красивого и привлекательного резюме (которое, возможно, уже не будет соответствовать вам). К созданию крутых видеороликов о вашем последнем отпуске для TikTok или Instagram (с риском попадания в мир дипфейков).

На самом деле, новый тип ИИ, агентный ИИ - agentic AI, идет еще дальше, захватывая ваши предпочтения, вашу учетную запись и вашу личность и выполняя ранее выполняемые вручную задачи от вашего имени. Вы просто говорите ему, что делать, и он начинает: сортирует и обрабатывает ваши электронные письма гораздо эффективнее, чем вы; отвечает на ваши многочисленные чаты быстрее, чем вы могли бы; организует встречу с вашими коллегами, включая отправку опроса и приглашения, и, конечно же, выбор и бронирование номера; заказывает ингредиенты для вашего ужина (извините, готовить вам все равно придется самим); бронирует ваш следующий отпуск, но по гораздо более низкой цене. Вы просто вручаете ему ключи от своего королевства, и у вас появляется личный цифровой слуга, готовый выполнить любое ваше поручение. Идеальный мир, ничего не может пойти не так. Или может?

На самом деле, с любой (новой) ИТ-технологией, с любой новой ИТ-революцией, существуют и риски. С электронной почтой это может быть спам и фишинг. С Java — скрытые уязвимости. С IoT (“Internet of Things” - "Интернет вещей") — проблемы безопасности. С блокчейнами — криптомошенничество. С социальными сетями — фейковые новости. С видео с ИИ — дипфейки. А теперь — агентный ИИ, где уже есть примеры, когда пользователи и даже исследователь безопасности теряли всю свою электронную почту из-за чрезмерно активного ИИ-агента.

Что делать и как использовать новые возможности ИИ с пользой для себя - предлагаем полностью прочитать в оригинале статью на сайте ЦЕРН.

Будущее за самостоятельностью. Но только если вы (мы!) не потеряем контроль...