Управление комиссара по вопросам конфиденциальности Канады расследует генеративное языковое приложение OpenAI ChatGPT после того, как надзорный орган получил жалобу о том, что программное обеспечение собирало, использовало и раскрывало личную информацию без согласия.
«Технологии искусственного интеллекта и их влияние на конфиденциальность являются приоритетом для моего Управления», — заявил на этой неделе комиссар страны по вопросам конфиденциальности Филипп Дюфрен. «Мы должны идти в ногу со стремительными технологическими достижениями и опережать их, и это одна из моих ключевых задач в качестве комиссара».
Запущенный в ноябре прошлого года, ChatGPT стал вирусным, поскольку сотни миллионов пользователей сети стекались к бесплатному инструменту для создания всех типов текста. Хотя заставить движок писать плохие шутки или черновики эссе может быть забавно, власти все больше обеспокоены рисками для конфиденциальности, которые представляет технология.
Италия была первой страной, объявившей о расследовании ChatGPT, чтобы выяснить, незаконно ли программное обеспечение собирает данные о своих гражданах и может ли эта технология нанести вред несовершеннолетним в возрасте до 13 лет. Гарант страны по защите персональных данных даже зашел так далеко. временно заблокировать ChatGPT, заблокировав доступ к бесплатной онлайн-демонстрации.
Между тем, как сообщается, другие страны, включая Германию, Францию и Ирландию, следят за ситуацией, чтобы решить, нарушает ли ChatGPT правила GDPR.
ChatGPT, основанный на модели большого языка GPT-3.5, был обучен на огромных массивах текста, извлеченных из Интернета. Вероятно, он проглотил по крайней мере некоторую личную информацию, и официальные лица обеспокоены тем, что данные могут быть извлечены теми, кто запрашивает бота. Например, OpenAI уже создала фильтр, чтобы его старая модель GPT-3 не выдавала телефонные номера людей.
Несмотря на то, что личная информация, вероятно, должна быть публично размещена в Интернете, чтобы бот мог ее проглотить во время обучения, ChatGPT потенциально может использоваться в качестве инструмента, помогающего людям легче находить такую информацию. Есть и другие более серьезные проблемы с конфиденциальностью — люди могут передавать личную, конфиденциальную информацию модели, когда они ее используют, и неясно, как OpenAI хранит или использует данные.
Некоторые компании, такие как Amazon, предупредили сотрудников, чтобы они не делились конфиденциальной информацией с ChatGPT, например, вставляли собственный код. Опасения по поводу того, что модель может привести к утечке данных, усилились, когда ошибка в библиотеке с открытым исходным кодом временно заставила программное обеспечение раскрыть фрагменты разговоров других людей и платежные данные.
«Расследование в отношении OpenAI, оператора ChatGPT, было начато в ответ на жалобу о сборе, использовании и раскрытии личной информации без согласия», — заявили в канадском офисе уполномоченного по вопросам конфиденциальности. «Поскольку это активное расследование, в настоящее время нет никаких дополнительных подробностей». ®
