ЧатGPT и новый ИИ наносят ущерб кибербезопасности в захватывающем и пугающем формате

Генеративное искусственное интеллекта трансформирует кибербезопасность, помогая и атакующим, и защитникам. Киберпреступники используют искусственный интеллект для запуска сложных и новаторских атак в крупном масштабе. А защитники используют ту же технологию для защиты критической инфраструктуры, правительственных организаций и корпоративных сетей, - сказал Кристофер Альберг, генеральный директор платформы по угрозам Recorded Future.

Генеративный ИИ помогает недобросовестным акторам инновироваться и разрабатывать новые стратегии атак, позволяя им опережать меры кибербезопасности. Искусственный интеллект помогает киберпреступникам автоматизировать атаки, сканировать поверхности атаки и генерировать контент, который резонирует с различными географическими регионами и демографическими группами, что позволяет им нацеливаться на более широкий спектр потенциальных жертв в разных странах. Киберпреступники приняли технологию для создания убедительных фишинговых электронных писем. ИИ-генерируемый текст помогает злоумышленникам создавать высоко персонализированные электронные письма и текстовые сообщения, которые более вероятно обманут цели.

"Я думаю, что вам не нужно очень творчески мыслить, чтобы понять, что это может на самом деле помочь киберпреступникам быть авторами, что является проблемой", - сказал Альберг.

Защитники используют AI для предотвращения атак. Организации используют эту технологию для предотвращения утечек и поиска сетевых уязвимостей превентивно. Она также динамически автоматизирует задачи, такие как установка оповещений для определенных ключевых слов и обнаружение чувствительной информации онлайн. Угрозымохителям используют AI для выявления необычных шаблонов и подведения итогов большого объема данных, устанавливая связи между различными источниками информации и скрытыми шаблонами.

Работа все еще требует участия опытных специалистов, но Альберг говорит, что генеративная технология искусственного интеллекта, которую мы видим в проектах, например, ChatGPT, может помочь.

«Мы хотим ускорить цикл анализа, чтобы помочь нам анализировать со скоростью мысли», - сказал он. «Это очень сложно сделать, и я думаю, мы видим здесь прорыв, что довольно захватывающе».

Альберг также обсудил потенциальные угрозы, которые могут представлять высокоинтеллектуальные машины. С увеличением цифровизации и взаимосвязи мира возможность изменять реальность и формировать восприятие может быть эксплуатирована злонамеренными действующими лицами. Эти угрозы не ограничиваются национальными государствами, что делает ландшафт еще более сложным и асимметричным.

Искусственный интеллект (ИИ) имеет потенциал помочь защититься от возникающих угроз, но также несет в себе собственные риски. Например, машины с высокой обработкой данных могут взламывать системы быстрее и эффективнее, чем люди. Чтобы противостоять этим угрозам, необходимо обеспечить использование ИИ с защитными целями и с четким пониманием того, кто контролирует процесс.

По мере интеграции ИИ в общество важно, чтобы законодатели, судьи и другие принимающие решения понимали технологию и ее последствия. Построение прочных альянсов между техническими экспертами и политиками будет критически важным для навигации в будущем ИИ в поиске угроз и за его пределами.

Возможности, проблемы и этические соображения ИИ в кибербезопасности являются сложными и развивающимися. Обеспечение беспристрастности моделей ИИ и поддержание участия человека в принятии решений поможет управлять этическими вызовами. Бдительность, сотрудничество и четкое понимание технологии будут критически важными в решении потенциальных долгосрочных угроз высокоинтеллектуальных машин.

Ahlberg также выразил опасения относительно Китая, России и экономических противников, которые внедряют автономные машины. Эти страны, вероятно, не замедлят развитие ИИ или не разделят этические соображения. В то время как наличие возможности "отключить" такие машины является разумной защитой, он предлагает, что интеграция технологии в общество и мировую экономику, вероятно, затруднит их отделение. Ahlberg подчеркивает необходимость разработки продуктов и машин с ясностью о том, кто их контролирует.

"Большая вещь, которую интернет сделал во всем этом, заключается в том, что интернет стал своеобразным местом, куда переехала вся информация мира", - сказал Альберг. "Эти большие языковые модели делают довольно волшебные вещи... чтобы ускорить этот цикл мышления".

Он добавил: "В следующие 25 лет мир станет отражением интернета".