Европейские лидеры официально открыли Европейский центр алгоритмической прозрачности (ECAT) во вторник, учреждение, которое будет поддерживать регулирование социальных сетей и поисковых алгоритмов.
В соответствии с Законом ЕС о цифровых услугах (DSA), вступившим в силу 16 ноября, платформы с более чем 45 миллионами пользователей, получившие название «Очень крупные онлайн-платформы» и «Очень крупные онлайн-поисковые системы», должны проводить ежегодную оценку рисков с описанием шагов. принятые для защиты пользователей от таких вещей, как незаконный контент или дезинформация.
Компании должны подробно описать, как работают их алгоритмы, и быть прозрачными в отношении того, как их программное обеспечение позволяет рекламодателям нацеливать пользователей или рекомендовать контент. Ожидается, что новые правила будут применяться с 1 января 2024 года. ECAT проведет аудит программного обеспечения и убедится, что Big Tech играет по правилам.
Во вступительном слове Франческа Бриа, эксперт по европейской цифровой политике и президент Итальянского национального инновационного фонда, сказала, что разработка ИИ была подобна открытию мифического ящика Пандоры, выпустившему в мир «и зло, и надежду».
«Растущая сложность динамического масштабирования и глубокого обучения привела к огромным инвестициям в вычислительную инфраструктуру и гонке за контролем над оборудованием следующего поколения, что имеет решающее значение для обучения в крупнейших системах ИИ, поскольку мы продолжаем раздвигать границы ИИ. очевидно, что эти системы только кажутся согласованными с человеческими ценностями», — сказала она.
«Возможности систем ИИ, как правило, резко возрастают по мере их роста и сложности. Мы должны воздерживаться от участия в гонке за разработку богоподобного ИИ или масштабирования черных ящиков, которые отдают приоритет эффективности, игнорируя потенциальное влияние таких систем. Регулирование и управление Таким образом, искусственный интеллект, способный справиться с настоящим и будущим оружием, имеет решающее значение».
ECAT будет работать в рамках Объединенного исследовательского центра Европейской комиссии, нанимая ученых для проведения исследований, чтобы предоставить независимое руководство для решения различных проблем, от изменения климата до здоровья. ECAT сосредоточится исключительно на изучении алгоритмов, развернутых в онлайн-сервисах, таких как социальные сети, поиск, электронная коммерция и т. д.
«Ученые и эксперты, работающие в ECAT, будут сотрудничать с представителями отрасли, научных кругов и организаций гражданского общества, чтобы улучшить наше понимание того, как работают алгоритмы: они будут анализировать прозрачность, оценивать риски и предлагать новые прозрачные подходы и лучшие практики», — говорится в официальном блоге. пост сказал. Чиновники сейчас активно набирают экспертов, заинтересованных в исследованиях или инспекциях.
В то время как ECAT в настоящее время сосредоточен на решении конкретных проблем DSA, законодатели продолжают обсуждать Закон об ИИ, более общую структуру, которая классифицирует приложения по различным уровням риска. ®
