У функції Gemini, що інтегрована в Gmail, була виявлена серйозна вразливість, яка може бути використана зловмисниками для реалізації фішингових атак через штучно створені резюме листів. Про це повідомляє портал BleepingComputer, посилаючись на інформацію від 0DIN.

Цю вразливість виявив Марко Фігероа, менеджер програми GenAI Bug Bounty в компанії Mozilla. За його словами, зловмисники можуть ховати інструкції в тексті електронного листа, використовуючи білий колір шрифту та зменшуючи його до нуля, що робить текст невидимим для користувача, але доступним для аналізу системи Gemini. Це може призвести до того, що ШІ автоматично додасть до резюме неправдиві попередження, такі як повідомлення про злом пароля, разом із фальшивим номером служби підтримки.

Хоча деякі користувачі можуть не звертати уваги на такі повідомлення, інші можуть стати жертвами через емоційний вплив такого контенту. Фігероа зазначає, що команди безпеки можуть розробляти методи для виявлення прихованої інформації та аналізувати резюме, створене ШІ, на наявність URL-адрес, номерів телефонів або термінових повідомлень.

BleepingComputer звернувся до Google з приводу цієї вразливості в Gemini. Представник компанії відповів, що поки не було виявлено жодних доказів зловживань, але зазначив, що Google вже працює над підвищенням безпеки та незабаром запровадить нові заходи захисту.