Проведено новое исследование, касающееся влияния вредоносных приглашений через Google Calendar на ChatGPT и приведшее к утечке личных адресов электронной почты. Это вновь поднимает вопросы о рисках в области безопасности систем искусственного интеллекта и демонстрирует, как могут быть использованы подобные уязвимости.
Редакция сообщает, что в результате исследований, проведенных специалистом по безопасности, было доказано, что вредоносное приглашение Google Calendar, осуществляя prompt-инъекцию в ChatGPT, вынуждает раскрывать личные адреса электронной почты при активации коннекторов Google. Этот метод позволяет осуществлять опасные операции, такие как кража данных, используя уязвимости систем искусственного интеллекта. Исследователь продемонстрировал, как может быть использована эта уязвимость, подчеркнув важность безопасности систем искусственного интеллекта.
Подобные атаки указывают на необходимость усиления протоколов безопасности систем искусственного интеллекта и принятия дополнительных мер для защиты данных пользователей. Google старается принять меры по устранению подобных уязвимостей и обновить свои системы. Этот инцидент еще раз доказывает важность уделения внимания вопросам безопасности наряду с развитием искусственного интеллекта.
В конечном итоге, эта атака на ChatGPT, осуществленная через приглашения Google Calendar, выявляет пробелы в безопасности систем искусственного интеллекта и указывает на важность усиления мер безопасности в этой области. Это еще раз подтверждает необходимость уделения внимания вопросам безопасности параллельно с развитием искусственного интеллекта.