Инициатива правительства Австралии, описанная тогдашним ответственным министром как «прекрасный пример использования правительством технологии», была описана Королевской комиссией как «грубый и жестокий механизм, ни справедливый, ни законный, и это заставило многих людей чувствовать себя преступники».
Инициатива стала известна как «Robodebt» из-за автоматического сопоставления наборов данных и выдачи уведомлений о долге получателям социальных пособий.
Но алгоритм, который правительство Австралии использовало для расчета долга, был основан на в высшей степени и трагически неверных предположениях.
Австралийцы имеют право на получение социальных пособий, если их доход падает ниже определенного уровня в течение определенного двухнедельного периода. В начале 2010-х годов правительство того времени решило обеспечить, чтобы получатели социальных пособий не получали больше выплат, чем они должны, с обменом данными между социальными и налоговыми органами для информирования процесса.
Чтобы оценить, были ли произведены надлежащие платежи, соответствующий отдел усреднил доход получателей за год.
Что было огромной ошибкой.
Чтобы понять, почему, представьте себе человека, который провел три месяца в году, получая пособие по безработице, пока искал работу, а затем проработал девять месяцев. Правительство считало их доход за весь год и усредняло его, а затем оценивало их право на получение выплат на основе их средний двухнедельный заработок – не их доход, когда они были без работы и, следовательно, имели право на выплаты.
Этот метод означал, что люди, получавшие пособия, могли считаться превысившими порог приемлемости, даже если у них не было никакого дохода, кроме государственных пособий, когда они получали выплаты. Тем не менее правительство заявило, что получателю переплатили, и отправило вонючие письма с требованием вернуть деньги.
Некоторые в правительстве указали на проблемы с этой методологией. Высокопоставленные государственные служащие знали, что вся программа могла не опираться на прочную юридическую основу.
Но министры, тем не менее, продвигались вперед и приветствовали вероятные доходы, которые эта схема могла бы принести, как вышеупомянутый «отличный пример». Вскоре агентства начали рассылать автоматически сгенерированные уведомления о долгах, основанные на ошибочной методологии, со скоростью до 20 000 в неделю.
Вскоре последовали отпор и протест, но тогдашнее правительство настаивало на программе.
Борьба с уведомлениями о долгах оказалась чрезвычайно сложной, поскольку бремя доказывания требовало от граждан предоставления документов, подтверждающих неправомерность долга. Поскольку программа оглядывалась на многолетнюю историю платежей, многие просто не могли найти записи о прошлых доходах или их отсутствии. Агентство государственных услуг Австралии изо всех сил пыталось справиться с нагрузкой и заблокировало многих заявителей.
Несколько самоубийств были связаны с беспокойством, вызванным внезапным требованием погасить неправильно оцененные долги, некоторые из которых исчислялись многими тысячами долларов. Даже после того, как о некоторых из этих смертей стало широко известно, соответствующий правительственный департамент не рассмотрел схему.
Осуждение общественности и прессы в конце концов достигло такого уровня, что правительство закрыло эту схему и согласилось выплатить долги, которые оно собрало на основе просчетов.
Но к тому времени ущерб был уже нанесен.
В мае 2022 года Австралия избрала новое правительство, которое пообещало Королевскую комиссию по Рободолгу. Его окончательный отчет [PDF] был опубликован в пятницу и предлагает мрачное чтение. В документе установлено, что министры делали ложные заявления и злоупотребляли своей властью, а высокопоставленные государственные служащие знали, что схема ошибочна и/или незаконна, но не предпринимали никаких действий, чтобы ее остановить. В отчете рекомендуется рассмотреть возможность привлечения к уголовной или гражданской ответственности сотен человек, хотя этот раздел опечатан, поэтому личности обвиняемых неизвестны.
57 рекомендаций отчета призывают к существенной реформе правительства и государственной службы Австралии, включая изменение законов о свободе информации, которые позволили бы изучать документы кабинета министров.
В отчете также содержатся некоторые рекомендации по информационным технологиям, в том числе:
- Создание органа для мониторинга и аудита автоматизированных процессов принятия решений в правительстве;
- Обращение за советом о том, является ли обмен данными между государственными учреждениями законным;
- Немедленный обзор и укрепление практики оперативного управления применительно к программам сопоставления данных, проводимым совместно различными агентствами;
- Веб-сайты ведомств должны содержать информацию о том, что используется автоматизированное принятие решений, и простым языком объяснять, как работает этот процесс;
- Бизнес-правила и алгоритмы должны быть доступны для независимой экспертной проверки;
- Внедрение онлайн-инструментов обслуживания клиентов для облегчения взаимодействия с государственными органами.
По ужасной иронии в отчете было обнаружено, что некоторые долги были настолько малы, что их взыскание стоило правительству больше, чем стоимость долга. А компенсация, причитающаяся тем, кто выплатил неправильно оцененные долги, скорее всего, превысит сумму, которую планировалось возместить по схеме. ®
