В функции Gemini, встроенной в Gmail, была обнаружена критическая уязвимость, позволяющая хакерам осуществлять фишинговые атаки через искусственно созданные резюме писем. Об этом сообщает портал BleepingComputer, ссылаясь на информацию от 0DIN.

Эту уязвимость обнаружил Марко Фигероа, менеджер программы GenAI Bug Bounty в Mozilla. По его словам, злоумышленники могут скрывать инструкции в тексте электронного письма, форматируя их белым цветом и уменьшая размер шрифта до нуля, что делает текст невидимым для человека, но доступным для анализа Gemini. В результате этого ИИ может автоматически добавлять в резюме ложные предупреждения, такие как сообщения о взломе пароля, вместе с фальшивым номером службы поддержки.

Хотя некоторые пользователи могут игнорировать такие сообщения, другие могут попасть в ловушку из-за эмоционального воздействия подобного контента. Фигероа подчеркивает, что команды безопасности могут разрабатывать методы для обнаружения скрытой информации и анализировать резюме, создаваемые ИИ, на наличие URL-адресов, номеров телефонов или срочных сообщений.

BleepingComputer обратился к Google по поводу этой уязвимости в Gemini. Представитель компании заявил, что пока не было обнаружено никаких доказательств злоупотреблений, но добавил, что Google уже работает над мерами защиты и вскоре внедрит дополнительные меры безопасности.