Использование работником Samsung ChatGPT привело к утечке конфиденциальных данных

Подразделение полупроводников Samsung полагалось на ChatGPT для помощи в устранении проблем в своем исходном коде. Однако, используя искусственный интеллект чат-бота, они по ошибке раскрыли конфиденциальную информацию, такую как исходный код новой программы и заметки с внутренних совещаний о их оборудовании. К сожалению, это не был единичный случай, так как за месяц было зарегистрировано три инцидента.

Чтобы избежать подобных нарушений в будущем, Samsung сейчас работает над разработкой собственного инструмента искусственного интеллекта, аналогичного ChatGPT, который предназначен исключительно для внутреннего использования сотрудниками. Это позволит рабочим фабрик получать быструю помощь при обеспечении безопасности конфиденциальной информации компании. Однако этот новый инструмент будет обрабатывать только запросы, размером не более 1024 байт.

Проблема произошла из-за того, что ChatGPT управляется сторонней компанией, которая использует внешние серверы. Поэтому, когда Samsung ввела свой код, тестовые последовательности и внутреннюю информацию с совещаний в программу, произошла утечка данных. Samsung незамедлительно проинформировала свое руководство и сотрудников о риске компрометации конфиденциальной информации. До 11 марта Samsung не разрешала своим сотрудникам пользоваться чат-ботом.

Самсунг - не единственная компания, которая сталкивается с этой проблемой. Многие компании ограничивают использование ChatGPT до тех пор, пока они не установят четкую политику относительно использования генеративного ИИ. Хотя ChatGPT предоставляет возможность отказаться от сбора данных пользователей, стоит отметить, что информация, поданная на обработку сервисом, все равно может быть доступна его разработчику.

Что такое ChatGPT и как оно работает?

ChatGPT - это приложение искусственного интеллекта, разработанное компанией OpenAI, которое использует глубокое обучение для создания текста, подобного человеческому, в ответ на запросы пользователей. Оно может генерировать текст в различных стилях и для различных целей, включая написание текстов, ответы на вопросы, написание электронных писем, ведение бесед, перевод естественного языка на код и объяснение кода на различных языках программирования.

ChatGPT функционирует, предсказывая следующее слово в заданном тексте, используя шаблоны, которые он изучил из огромного объема данных во время своего обучения. Анализируя контекст запроса и его предыдущее обучение, ChatGPT генерирует ответ, который должен быть максимально естественным и связным.

Какие меры предприняла Samsung для предотвращения будущих утечек?

В результате утечек данных, вызванных ChatGPT, Samsung предприняла ряд мер для предотвращения таких инцидентов в будущем. Во-первых, компания посоветовала своим сотрудникам быть осторожными при обмене данными с ChatGPT. Они также ввели ограничение на длину вопросов, отправляемых в сервис, ограничивая их до 1024 байт.

Кроме того, Samsung в настоящее время разрабатывает инструмент искусственного интеллекта, аналогичный ChatGPT, но исключительно для внутреннего использования сотрудниками. Это обеспечит своевременную помощь работникам завода, а также обеспечит безопасность конфиденциальной информации компании. До разработки этого инструмента Samsung предупреждал своих сотрудников о возможных рисках, связанных с использованием ChatGPT. Они также подчеркивают, что данные, вводимые в ChatGPT, передаются и хранятся на внешних серверах, что делает невозможным контроль компанией данных после передачи.

Какие были последствия для сотрудников, которые утекли конфиденциальные данные?

Последствия для сотрудников Samsung, которые утечекли конфиденциальные данные в ChatGPT, явно не указаны в доступной информации. Тем не менее, Samsung Electronics предпринимает меры по предотвращению дальнейших утечек чувствительной информации через ChatGPT, в том числе устанавливая ограничение в 1024 байта на размер представляемых вопросов. Компания также предупреждает своих сотрудников о потенциальных рисках использования ChatGPT.

Кроме того, Samsung Semiconductor разрабатывает собственный инструмент искусственного интеллекта для использования внутри компании, который будет ограничиваться обработкой запросов до 1024 байт. Эти действия свидетельствуют о том, что Samsung серьезно относится к защите конфиденциальной информации и принимает меры для снижения рисков, связанных с использованием ChatGPT.

Какой тип конфиденциальной информации был утечен?

Сколько раз сотрудники Samsung утекали конфиденциальные данные в ChatGPT?

Согласно результатам поиска, сотрудники Samsung несколько раз утечки конфиденциальной информации компании в ChatGPT.