chatgpt-и-еще-что-значат-AI-чатботы-для-будущего-кибербезопасности

Сравнительно простые задачи, такие как написание электронных писем, или более сложные работы, включая написание эссе или компиляцию кода, ChatGPT - инструмент искусственного интеллекта, основанный на обработке естественного языка от OpenAI - вызывает огромный интерес с момента его запуска.

Это, конечно, далеко не идеально - известно, что оно делает ошибки и ошибки, поскольку неправильно интерпретирует информацию, из которой изучает, но многие видят его, и другие инструменты AI, как будущее того, как мы будем использовать интернет.

Условия использования ChatGPT от OpenAI явно запрещают генерацию вредоносного программного обеспечения, включая вымогательное программное обеспечение, программы-кейлоггеры, вирусы или "другое программное обеспечение, направленное на причинение вреда". Оно также запрещает попытки создания спама, а также использование с целью киберпреступления.

Однако, как и с любой новой онлайн-технологией, уже есть люди, которые экспериментируют с тем, как они могут использовать ChatGPT для более сомнительных целей.

После запуска прошло немного времени, и уже киберпреступники начали публиковать темы на подпольных форумах о том, как можно использовать ChatGPT для облегчения злонамеренной киберактивности, такой как написание фишинговых писем или помощь в создании вредоносных программ.

И существуют опасения, что мошенники будут пытаться использовать ChatGPT и другие инструменты искусственного интеллекта, такие как Google Bard, в своих усилиях. Хотя эти инструменты искусственного интеллекта не перевернут кибератаки с ног на голову, они все же могут помочь киберпреступникам – даже непреднамеренно – в проведении вредоносных кампаний более эффективно.

"Я не думаю, по крайней мере в ближайшей перспективе, что ChatGPT создаст совершенно новые типы атак. Основное внимание будет уделено повышению эффективности их повседневной работы", - говорит Сергей Шикевич, менеджер группы угроз и разведки Check Point, компании в области кибербезопасности.

Также: Что такое ChatGPT и почему это важно? Вот все, что вам нужно знать

Фишинговые атаки являются наиболее распространенной составляющей злонамеренных взломов и мошеннических кампаний. Независимо от того, отправляют ли злоумышленники электронные письма для распространения вредоносных программ, фишинговых ссылок или используют их, чтобы убедить жертву перевести деньги, электронная почта является ключевым инструментом в начальной стадии заставления.

Та зависимость от электронной почты означает, что преступные группы нуждаются в постоянном потоке понятного и полезного контента. Во многих случаях — особенно при фишинге — цель атакующего заключается в убеждении человека что-то сделать, например, перевести деньги. К счастью, многие из этих попыток фишинга сейчас легко узнаваемы как спам. Но эффективный автоматический копирайтер мог бы сделать эти электронные письма более убедительными.

Киберпреступность - это глобальная отрасль, в которой преступники из разных стран отправляют рассылки фишинга потенциальным жертвам по всему миру. Это означает, что язык может стать преградой, особенно для более изощренных кампаний спирофишинга, которые полагаются на то, что жертвы будут считать, что общаются с доверенным контактом. И никто не поверит, что пишет коллеге, если электронные письма полны нетипичных орфографических и грамматических ошибок или странной знакопункции.

Но если ИИ используется правильно, чатбот может быть использован для написания текста для электронных писем на любом языке, который злоумышленник хочет.

"Самым большим препятствием для русских киберпреступников является язык -- английский", говорит Шыкевич. "Они теперь нанимают выпускников английских факультетов российских колледжей, чтобы писать фишинговые письма и работать в колл-центрах -- и за это им приходится платить деньги."

Он продолжает: «Что-то вроде ChatGPT может сэкономить им много денег на создании различных фишинговых сообщений. Это может просто улучшить их жизнь. Я думаю, что это путь, который они будут искать».

В теории, есть меры защиты, которые должны предотвращать злоупотребление. Например, ChatGPT требует от пользователей зарегистрировать электронную почту и также требует указать номер телефона для подтверждения регистрации.

И хотя ChatGPT откажется писать фишинговые электронные письма, его можно попросить создать шаблоны электронных писем для других сообщений, которые часто используются киберпреступниками. Эти усилия могут включать сообщения, такие как уведомление о предлагаемом ежегодном бонусе, важное обновление программного обеспечения, которое необходимо скачать и установить, или прикрепленный документ, который требуется срочно просмотреть.

"Составление электронного письма, чтобы убедить кого-то кликнуть по ссылке, чтобы получить что-то вроде приглашения на конференцию - это довольно хорошо, и если вы не носитель английского языка, это выглядит очень хорошо", - говорит Адам Мейерс, старший вице-президент по разведке в компании Crowdstrike, поставщике кибербезопасности и экспертных данных.

"Вы можете создать красиво составленное, грамматически правильное приглашение, что возможно не удастся сделать, если вы не носитель английского языка."

Но злоупотребление этими инструментами ограничивается не только электронной почтой; преступники могут использовать их для написания сценариев для любой текстовой онлайн-платформы. Для злоумышленников, занимающихся мошенничеством, а также для продвинутых киберугроз, пытающихся вести кампании шпионажа, это может быть полезным инструментом - особенно при создании фальшивых социальных профилей для привлечения людей.

"Если вы хотите создать правдоподобную бизнес-латынь для LinkedIn, чтобы казаться настоящим бизнесменом, строящим контакты, ChatGPT для этого отлично подходит", - говорит Келли Шортридж, эксперт по кибербезопасности и старший ведущий технолог-продуктов в области облачных вычислений компании Fastly.

Различные группы хакеров пытаются использовать LinkedIn и другие социальные медиа платформы в качестве инструментов для проведения кибершпионажных кампаний. Однако создание фальшивых, но выглядящих достоверно онлайн-профилей и заполнение их сообщениями и публикациями является трудоемким процессом.

Shortridge считает, что злоумышленники могут использовать инструменты искусственного интеллекта, такие как ChatGPT, для написания убедительного контента, при этом имея преимущество в меньшей требуемой трудоемкости по сравнению с ручным выполнением работы.

"Множество таких кампаний по социальной инженерии требуют значительного усилия, потому что вам нужно создать эти профили", - говорит она, утверждая, что инструменты искусственного интеллекта могут значительно снизить барьер входа.

"Я уверена, что ChatGPT может писать очень убедительные публикации с видом на будущее", - говорит она.

Природа технологического инновационного процесса означает, что, когда что-то новое появляется, всегда найдутся те, кто будет пытаться использовать это во вредных целях. И даже с использованием самых новаторских средств для предотвращения злоупотреблений, хитроумная природа киберпреступников и мошенников позволяет им обходить защиту.

"Нет способа полностью исключить злоупотребления. Это никогда не происходило с любой системой", - говорит Шикевич, который надеется, что обращение внимания на потенциальные проблемы кибербезопасности означает, что будет больше обсуждения о том, как предотвратить злоупотребление ИИ-чатботами для неправильных целей.

"Это отличная технология - но, как и всегда с новой технологией, есть риски, и важно обсуждать их, чтобы быть в курсе. И я думаю, что чем больше мы обсуждаем, тем более вероятно, что OpenAI и подобные компании будут вкладывать больше сил в уменьшение злоупотреблений", - предлагает он.

Также есть плюс для кибербезопасности в AI-чатботах, таких как ChatGPT. Они особенно хорошо справляются с кодом и его пониманием, поэтому есть потенциал использовать их для помощи защитникам в понимании вредоносных программ. Так как они также могут писать код, возможно, что, помогая разработчикам в их проектах, эти инструменты могут помочь создавать более качественный и безопасный код быстрее, что полезно для всех.

Как написал главный аналитик Forrester Джефф Поллард недавно, ChatGPT может значительно сократить время, затрачиваемое на составление отчетов о нарушениях безопасности.

"Более быстрое возврашение к этим активностям означает больше времени на другие задачи - тестирование, оценка, исследование и реагирование, все это помогает командам по безопасности масштабироваться," - он отмечает, добавляя, что бот может предложить следующие рекомендуемые действия на основе доступных данных.

"Если организация оркестрации, автоматизации и реагирования в сфере безопасности настроена правильно для ускорения извлечения артефактов, это может ускорить обнаружение и реагирование и помочь аналитикам [центра операций безопасности] принимать более обоснованные решения", - говорит он.

Итак, для некоторых в области кибербезопасности чат-боты могут создать дополнительные сложности, но также могут появиться и некоторые положительные стороны.

ZDNET обратился в OpenAI с просьбой о комментарии, но не получил ответа. Однако ZDNET спросил ChatGPT, какие правила у него есть, чтобы предотвратить его злоупотребление для рыболовства - и мы получили следующий текст.

"Важно отметить, что хотя языковые модели искусственного интеллекта, такие как ChatGPT, могут генерировать текст, похожий на фишинговые электронные письма, они не могут сами по себе совершать вредоносные действия и требуют намерений и действий пользователя для нанесения вреда. Поэтому важно, чтобы пользователи проявляли осторожность и показывали здравый смысл при использовании ИИ-технологий и оставались бдительными в защите от фишинговых и других вредоносных действий."