Новая инициатива DARPA направлена на то, чтобы в конечном итоге предоставить системам искусственного интеллекта такие же сложные и быстрые возможности принятия решений, как военному медицинскому персоналу и хирургам-травматологам, которые находятся на поле боя.
Программа In the Moment (ITM), которая в настоящее время собирает исследовательские предложения, направлена на разработку основ экспертных моделей машинного обучения, которые могут выносить сложные суждения — там, где нет правильного ответа — которым люди могут доверять. Это исследование может привести к развертыванию алгоритмов, которые могут помочь медикам и другому персоналу принимать трудные решения в моменты жизни и смерти.
«Задачи Минобороны включают быстрое принятие многих решений в сложных обстоятельствах, и алгоритмические системы принятия решений могут облегчить эту нагрузку на операторов… ITM стремится разработать методы, которые позволят создавать, оценивать и задействовать доверенных алгоритмических лиц, принимающих решения, для критически важных операций Минобороны. где нет правильного ответа и, следовательно, не существует наземной истины», — заявили в DARPA.
Суть этой проблемы в том, что такие системы ИИ необходимо обучать, даже если между экспертами нет достоверной информации или консенсуса. Генералы могут расходиться во мнениях по поводу того, как именно должно разворачиваться противостояние двух противостоящих частей. У врачей могут быть разные мнения о том, как лечить кого-то. Обучение программного обеспечения для машинного обучения тому, как определить наилучший план действий из этих позиций, неочевидно, и, похоже, для решения этой задачи предназначен ITM.
Как выразилось DARPA:
На практическом уровне программа ориентирована на лечение в полевых условиях и состоит из двух этапов: первая часть включает сортировку небольших подразделений, а вторая часть – сортировку массовых пострадавших.
Мэтт Турек, менеджер программы ITM, сказал, что план состоит в том, чтобы и алгоритмический человек, принимающий решения, и люди-эксперты могли выбирать, как действовать в ситуации. Эти решения вслепую передаются пулу специалистов по сортировке, которые затем должны сказать, кому из лиц, принимающих решения, они делегируют полномочия.
Это только этап тестирования. В конечном счете, ITM стремится вывести людей из цикла принятия решений, создавая ИИ, которым люди будут доверять в принятии тех же решений, что и эксперту.
Доверяйте ИИ в зоне боевых действий
Первый вариант использования, сортировка в полевых условиях небольшого подразделения, может позволить неподготовленным солдатам проводить сортировку и применять травматологию, следуя за ИИ, обученным принимать те же решения, что и группа полевых медиков. Это огромное потенциальное благо для рядового солдата, который часто может быть единственным, кто может сортировать и лечить серьезные ранения во время операций.
Во втором случае может быть сложнее продать опытным хирургам, врачам или всем, чьи возможности принятия решений могут быть расширены с помощью ИИ. В рамках ITM DARPA заявило, что автономные лица, принимающие решения по сортировке, могут быть «точно настроены на конкретного командира подразделения», например хирурга-травматолога, который «вероятно, будет нести ответственность за решения, принятые в рамках этого подразделения». [their hospital unit]в том числе любой автономной системы».
DARPA заявило, что хочет, чтобы его партнеры по исследованиям начали свою работу к октябрю 2022 года, и планирует работать в четырех технических областях в течение следующих трех с половиной лет:
- Разработка методов, которые ИИ может использовать для выявления и количественной оценки ключевых атрибутов принятия решений в сложных ситуациях.
- Создайте систему оценки согласованности, которая может прогнозировать доверие конечных пользователей.
- Разработка и выполнение программы оценки для первых двух этапов
- Интеграция политики и практики, включая юридические, моральные и этические исследования технологии
DARPA является источником многих потребительских технологий и не планирует, чтобы программное обеспечение было заперто за дверями правительства. Вместо этого он обещает сделать технологию ITM «настолько широко доступной и многократно используемой, насколько это возможно».
Он призывает всех, кто подает заявку на участие в ITM, принять модель IP с открытым исходным кодом с неограниченными правами, и говорится, что любой, кто не предлагает неограниченные права, должен будет убедительно обосновать, почему. ®
