Какие риски несет для кибербезопасности GenAI

В современном цифровом мире, где технологии развиваются стремительными темпами, киберпреступность также не стоит на месте, постоянно адаптируясь и совершенствуясь по сей день. Одним из новейших инструментов в арсенале хакеров стал генеративный искусственный интеллект (GenAI), в частности, модели типа ChatGPT и Gemini AI, открывающие новые горизонты для кибератак.

Специалисты по кибербезопасности уже зафиксировали случаи, когда злоумышленники использовали мощность больших языковых моделей (LLM) для усложнения своих атак, делая их более убедительными и трудновыраженными. Ричард Аддискотт, старший директор-аналитик в Gartner, отмечает, что мы только в начале эры GenAI, и возможности ее применения в кибербезопасности еще не полностью изучены.

Использование GenAI в киберпреступности ставит перед профессионалами в области безопасности новые вызовы, но также предоставляет инструменты для защиты. Это требует от организаций активнее инвестировать в развитие своих защитных механизмов и сосредоточиться на создании резервных планов для случаев киберинцидентов, особенно когда речь идет о действиях третьих сторон, которые могут представлять значительный риск.

Согласно исследованию конфиденциальности данных Cisco 2024, большое количество компаний уже ограничивают использование GenAI из-за опасений конфиденциальности и безопасности данных. Около 27% опрошенных организаций даже временно запретили использование таких технологий.

Среди обеспокоенностей, выражающих предприятия, есть потенциальные угрозы правам интеллектуальной собственности организации. Также существует риск непреднамеренного раскрытия конфиденциальной информации общественности или конкурентам. В этом контексте важно, чтобы компании не только активно применяли современные технологии защиты своих данных, но и проводили тщательный анализ рисков, связанных с использованием новейших разработок в сфере искусственного интеллекта.

Когда GenAI открывает новые возможности для киберпреступников, организациям необходимо разрабатывать комплексные стратегии кибербезопасности, включающие не только технические средства защиты, но и осведомленность и обучение персонала. Укрепление планов действий в чрезвычайных ситуациях, особенно в отношении действий третьих сторон, является ключевым для минимизации потенциальных рисков. Учитывая быстроту развития технологий, постоянное обновление знаний и инструментария в сфере кибербезопасности является неотъемлемой частью стратегии любой современной организации.