Federalny rzecznik praw obywatelskich Australii (Commonwealth Ombudsman) opublikował 104-stronicowy raport, w którym ostro krytykuje algorytm stosowany przez rząd federalny do oceny poziomu opieki, jakiej potrzebują starsi Australijczycy. System nazwano „technologiczną czarną skrzynką”, która jest nie tylko nieracjonalna i nieuczciwa, ale również pozbawiona odpowiedniego nadzoru człowieka.
Raport jest wynikiem śledztwa, które rozpoczęło się w kwietniu 2026 roku po doniesieniach mediów, w tym Guardian Australia. Opisywały one przypadki osób starszych, które po przejściu na obowiązkowe narzędzie oceny – Integrated Assessment Tool (IAT) – były pozostawione bez odpowiedniej opieki, często w stanie skrajnego stresu. System, który według relacji nazywano „nieludzkim”, automatycznie przypisywał pakiety finansowania opieki domowej.
Najważniejsze fakty
| Element | Opis |
|---|---|
| Kto krytykuje | Federalny rzecznik praw obywatelskich Australii (Iain Anderson) |
| Co jest krytykowane | Algorytm Integrated Assessment Tool (IAT) do oceny potrzeb opiekuńczych |
| Główne zarzuty | Brak nadzoru ludzkiego, brak przejrzystości, ignorowanie zaleceń z komisji robodebt |
| Skutek dla seniorów | Przypisywanie nieodpowiednich pakietów opieki, cierpienie i stres |
Kluczowe ustalenia raportu
Głównym problemem jest fakt, że przepisy prawa uniemożliwiają osobom oceniającym – wykwalifikowanym pracownikom opieki – zmianę decyzji podjętej przez algorytm, nawet jeśli jest ona klinicznie nieodpowiednia. „Zgodnie z prawem, tych automatycznych decyzji nie można anulować ani zmienić, nawet jeśli są klinicznie niewłaściwe” – czytamy w raporcie.
Rzecznik Iain Anderson podkreślił, że algorytm działa jak „czarna skrzynka”. Nie ma publicznie dostępnych informacji, które wyjaśniałyby, w jaki sposób algorytm przetwarza dane wejściowe na wyniki. Oznacza to, że system nie tylko podważa zaufanie do administracji, ale też – zdaniem rzecznika – „racjonalna osoba nie miałaby pewności, że system jest sprawiedliwy i spójny”.
Brak przejrzystości i zignorowane zalecenia
Raport zwraca uwagę, że departament zdrowia i starzenia się nie zastosował się do zaleceń komisji królewskiej ds. skandalu robodebt. Tamta komisja jednoznacznie stwierdziła, że rząd, używając zautomatyzowanych systemów decyzyjnych lub sztucznej inteligencji, musi być w pełni transparentny, aby obywatele rozumieli, jak zapadają decyzje mające na nich znaczący wpływ.
Co więcej, dokumenty ujawnione na podstawie wniosków o dostęp do informacji publicznej (FOI) pokazują, że osoby zaangażowane w rozwój IAT nie wiedziały, że rząd doda do niego algorytm tuż przed wdrożeniem w listopadzie 2025 roku. Doszło do „paniki w departamencie”, „poważnego niepokoju klinicznego wśród pracowników pierwszej linii” oraz tworzenia tajnych rozwiązań IT, gdy urzędnicy zdali sobie sprawę, na kilka godzin przed uruchomieniem, że prawo blokuje możliwość ręcznej korekty decyzji.
Brak kontroli jakości i ścieżek odwoławczych
Śledztwo wykazało również poważne zaniedbania w nadzorze. Departament nie egzekwował umownych kontroli jakości ani nie weryfikował, czy osoby oceniające posiadają wymagane kwalifikacje kliniczne. Jeszcze przed wdrożeniem algorytmu pracownicy wyższego szczebla wyrażali obawy co do braku ścieżek odwoławczych. Jeden z e-maili, cytowany w raporcie, brzmiał: „Obawiam się, że nasze obecne ramy nie spełniają wymogu jasnej ścieżki dla osób dotkniętych decyzją, ponieważ ścieżki odwoławcze wydają się jedynie potwierdzać wyniki algorytmu”.
Co dalej?
Rzecznik Anderson wezwał do kompleksowego przeglądu przepisów dotyczących procesu oceny potrzeb oraz zasad, na których opiera się algorytm. Choć departament w lipcu ogłosił nowy proces, pozwalający osobom oceniającym na eskalowanie błędnych decyzji do departamentu, zdaniem Andersona jest to niewystarczające. „Myślę, że możliwość zmiany decyzji przez osoby oceniające, jeśli wydają się one klinicznie nieodpowiednie, jest naprawdę ważna. Obawiam się, że ścieżka eskalacji niekoniecznie to zapewni” – powiedział.
Sprawa ta jest kolejnym przykładem problemów wynikających z wprowadzania zautomatyzowanych systemów decyzyjnych w newralgicznych obszarach usług publicznych, gdzie błąd algorytmu może mieć bezpośredni i dotkliwy wpływ na życie najsłabszych obywateli.
Źródło: The Guardian – https://www.theguardian.com/australia-news/2026/oct/26/damning-investigation-labor-algorithm-tool-aged-care-assessment
Źródła i weryfikacja
Materiał przygotowano jako praktyczną notatkę redakcyjną. Przed decyzjami prawnymi, finansowymi lub urzędowymi sprawdzaj dane w źródle pierwotnym.
- Oficjalne źródła i weryfikacja redakcyjna