Менее чем через три недели после Samsung отменил запрет на использование ChatGPT для сотрудников, чеболь, как сообщается, как минимум трижды сливал свои собственные секреты, в том числе конфиденциальную информацию о полупроводниках, находящихся в разработке.
Запрет изначально предназначался для защиты данных компании, но был снят 11 марта, чтобы повысить производительность и заинтересовать сотрудников новейшими крутыми техническими инструментами в мире.
Согласно сообщению местных корейских СМИ, эти просочившиеся секреты включают в себя измерения оборудования и данные о производительности от решения для устройств конгломерата и бизнес-подразделения по полупроводникам.
Один сотрудник сказал местному изданию, что они скопировали весь проблемный исходный код программы загрузки полупроводниковой базы данных, ввели его в ChatGPT и спросили о решении.
Другой загрузил программный код, предназначенный для выявления неисправного оборудования, а третий загрузил записи встречи в попытке автоматически сгенерировать протокол.
В часто задаваемых вопросах ChatGPT говорится: «Ваши разговоры могут быть просмотрены нашими инструкторами по искусственному интеллекту для улучшения наших систем».
SamsungТаким образом, секреты корейского гиганта могут быть доступны OpenAI — организации, проявляющей более чем мимолетный интерес к технологиям и делам корейского гиганта.
Как только инциденты были обнаружены, Samsung как сообщается, были применены «экстренные меры», в том числе ограничение емкости загрузки до 1024 байтов на вопрос.
«Если подобная авария произойдет даже после принятия экстренных мер по защите информации, доступ к ChatGPT может быть заблокирован в сети компании», — говорится в сообщении. Samsung Сообщается, что начальники предупредили сотрудников.
Чеболь уже предупредил своих сотрудников, чтобы они не разглашали конфиденциальную информацию, когда снял полный запрет на ChatGPT. OpenAI также предостерегает от загрузки конфиденциальных данных.
Начиная с 1 марта этого года политика OpenAI требует, чтобы пользователи API соглашались делиться данными для обучения или улучшения своих моделей, в то время как службы, не относящиеся к API, такие как ChatGPT или DALL-E, требуют от пользователя отказа, чтобы избежать используются их данные.
«Мы удаляем любую личную информацию из данных, которые мы намерены использовать для повышения производительности модели. Мы также используем только небольшую выборку данных для каждого клиента в наших усилиях по улучшению производительности модели», — заявляет OpenAI.
По сообщениям местных СМИ, Samsung в настоящее время рассматривает возможность создания собственной службы искусственного интеллекта, чтобы предотвратить дальнейшие инциденты.
Рег спросил Samsung чтобы подтвердить детали этой истории, но не получил ответа на момент написания.
В соответствии с Корея ТаймсИнцидент потряс отечественные технологические компании, в том числе производитель микросхем SK hynix и компанию по производству потребительского оборудования LG Display, которые в настоящее время работают над рекомендациями по использованию чат-ботов с искусственным интеллектом.
Сообщается, что SK hynix заблокировала использование чат-ботов в своей внутренней сети, и сотрудники, желающие использовать эту услугу, должны получить разрешение службы безопасности. LG Display, по-видимому, решила провести образовательную кампанию, чтобы ее сотрудники поняли, как защищать секреты компании.
Предположительно, первый шаг — «не загружайте их на чужой веб-сайт». ®
