Политики должны настаивать на том, чтобы производители включали элементы управления в системы вооружений на основе искусственного интеллекта, которые позволяли бы отключать их, если они выходят из-под контроля, заявили эксперты в парламенте Великобритании.
Выступая перед комитетом Палаты лордов по искусственному интеллекту в системах вооружений, лорд Седвилл, бывший советник по безопасности и высокопоставленный государственный служащий, сказал, что «вызов», который политики должны поставить перед технологической отраслью, заключается в том, могут ли они гарантировать, что системы вооружения с улучшенным ИИ могут полностью контролироваться люди.
«Мы должны передать людям, которые разрабатывают [weapons systems]: есть ли способ, по сути, ограждать, какой-то код или что-то еще, что не может быть изменено… что, по сути, устанавливает границы того, как автономная система учится, развивается и развивается сама по себе… что-то, что ставит границы как это может работать?” – спросил он у Лордов.
С этим согласился также присутствовавший на слушаниях Хью Даррант-Уайт, директор Центра трансляционных исследований данных Сиднейского университета. «Есть возможность — и над этим работают группы — формального математического доказательства того, что алгоритм делает только этот и не более того и предоставление стопроцентной гарантии, а не тестирование до поломки. И это в будущем. Только так мы исправим эти вещи. Но это только формирующаяся дисциплина», — сказал он.
В другом месте сессии Даррант-Уайт предупредил, что Китай вкладывает значительные средства в оружейный ИИ, но ему еще предстоит взять на себя инициативу.
«Китай инвестирует, возможно, в два раза больше, чем все остальные вместе взятые. Мы должны признать, что он действительно пошел в гору. Если вы посмотрите на платежи, если вы посмотрите на количество публикаций, если вы посмотрите на компании, которые вовлечены, это довольно важно. И все же важно отметить, что США по-прежнему доминируют в этой области. У них больше инноваций. У них есть фантастические компании … и, тем не менее, Великобритания действительно превосходит себя во многом. различных областей искусственного интеллекта», — сказал он.
Ранее в ходе расследования Джеймс Блэк, заместитель директора исследовательской группы по обороне и безопасности RAND Europe, предупредил, что негосударственные субъекты могут возглавить распространение систем вооружения с ИИ.
«Многие вещи будет очень трудно контролировать с точки зрения нераспространения из-за присущей им программной природы. Многие из наших существующих режимов экспортного контроля и нераспространения в значительной степени сосредоточены на старых… традиционное оборудование школы: это ракеты, это двигатели, это ядерные материалы», — предупредил он. ®
