Częstochowa dołączy do pilotażowego programu „AI HUB dla administracji publicznej”. Urzędnicy będą sprawdzać Asystenta Urzędniczego AI opracowanego przez NASK, który ma przyspieszać analizę dokumentów, wyszukiwanie przepisów i przygotowywanie oficjalnych pism. Miasto przekonuje, że rozwiązanie będzie działać w kontrolowanym środowisku, a testy obejmą zanonimizowane dane. Pojawiają się jednak pytania o ochronę informacji, odpowiedzialność za błędy algorytmu i przyszłe koszty wdrożenia.
Do udziału w przedsięwzięciu Częstochowę zaprosił wiceminister Dariusz Standerski. Program realizowany jest w formule Proof of Concept, czyli praktycznego sprawdzania możliwości i przydatności testowanego rozwiązania. Pilotaż ma trwać do czasu dopracowania systemu, tak aby można było udostępnić go kolejnym urzędom w Polsce.
Finansowanie projektu ma pochodzić z programu Fundusze Europejskie na Rozwój Cyfrowy na lata 2021–2027.
Jak sztuczna inteligencja ma pomagać urzędnikom?
Nowe narzędzie ma wspierać przede wszystkim zaplecze analityczne Urzędu Miasta Częstochowy. Jego zadaniem będzie odciążenie pracowników od czasochłonnych, powtarzalnych obowiązków. W pierwszym etapie urzędnicy mają korzystać z rozwiązania opartego na polskim dużym modelu językowym PLLuM, utrzymywanym centralnie na zlecenie Ministerstwa Cyfryzacji.
Asystent ma oferować kilka praktycznych funkcji. Będzie mógł przygotowywać streszczenia obszernych dokumentów, zestawiać ze sobą różne wersje tekstów i wskazywać występujące między nimi różnice. Ma również pomagać w wyszukiwaniu oraz analizowaniu przepisów prawa, z podaniem odpowiednich podstaw prawnych, a także wspierać redagowanie pism urzędowych i odpowiedzi kierowanych do mieszkańców.
Miasto podkreśla, że sztuczna inteligencja nie będzie samodzielnie podejmować decyzji. Nad jej działaniem ma czuwać człowiek, który zweryfikuje przygotowane analizy i projekty dokumentów przed ich wykorzystaniem.
Testy mają pozwolić ocenić, w jakich obszarach technologia rzeczywiście usprawni pracę administracji, skróci czas wykonywania rutynowych zadań i poprawi jakość obsługi mieszkańców. Uwagi urzędników posłużą do dalszego rozwijania systemu. Ważnym elementem inicjatywy ma być również wymiana doświadczeń pomiędzy samorządami uczestniczącymi w AI HUB.
Czy dane mieszkańców są narażone na cyberataki?
Rozwój sztucznej inteligencji przynosi nowe możliwości, ale wiąże się również z zagrożeniami. Jednym z nich są ataki typu prompt injection, w których odpowiednio spreparowane polecenia mogą skłonić system AI do działania niezgodnego z założeniami lub ujawnienia informacji, do których nie powinien mieć dostępu.
W związku z tym pojawia się pytanie, czy wykorzystanie algorytmu w administracji może narazić dane mieszkańców na niebezpieczeństwo. O stanowisko w tej sprawie poprosiliśmy Urząd Miasta Częstochowy.
Rzecznik magistratu Włodzimierz Tutaj zapewnia, że miasto nie zamierza samodzielnie wdrażać przypadkowych narzędzi komercyjnych, lecz skorzysta z rozwiązań przygotowanych specjalnie dla administracji publicznej.
– Urząd Miasta nie zamierza wdrażać jakichkolwiek modeli czy asystentów AI „na własną rękę”, na podstawie np. zamówień komercyjnych rozwiązań, tylko będzie korzystał z modeli dedykowanych administracji publicznej tworzonych centralnie i dopracowanych we współpracy z instytutami badawczymi oraz innymi samorządami, które będą uczestnikami projektu – podkreśla rzecznik.
Jak dodaje, istotnym argumentem przemawiającym za takim podejściem jest udział instytucji publicznych, w tym NASK, który zajmuje się między innymi cyberbezpieczeństwem.
– UM będzie uczestnikiem projektu realizowanego przez Ministerstwo z testowaniem – w pierwszym etapie – Asystenta Urzędniczego AI tworzonego przez NASK, który jest wiodącą jednostką publiczną zajmującą się cyberbezpieczeństwem, więc chyba trudno tu o lepszą rekomendację pod kątem bezpieczeństwa danych wykorzystywanych w czasie testowania rozwiązań opartych na AI – twierdzi Włodzimierz Tutaj.
Dane mają pozostać na krajowych serwerach
Kolejnym argumentem przedstawianym przez magistrat jest sposób przechowywania i przetwarzania informacji. Według rzecznika rozwiązanie oparte na modelu PLLuM ma działać w krajowej infrastrukturze, a dane nie będą przekazywane do globalnych usług komercyjnych, takich jak ChatGPT, Gemini czy Claude.
– W ramach ministerialnego projektu, w którym bierze udział Częstochowa, jest mowa o wykorzystaniu rozwiązań krajowych, tj. modelu PLLuM, gdzie dane „nie wychodzą w świat” jak przy korzystaniu np. z ChatGPT, Gemini czy Claude, których serwery są rozlokowane po całym świecie, a zostają na serwerach „rządowych”. Ponadto obecnie mówimy o badaniu rozwiązań na zanonimizowanych danych i testowaniu procesów, funkcjonowania modelu, błędów, jakie może popełniać, oraz jego zastosowania jako asystenta AI urzędnika – zaznacza rzecznik.
Na obecnym etapie testy mają więc dotyczyć zanonimizowanych informacji oraz sprawdzenia działania systemu, jego ograniczeń i potencjalnych błędów. Nie oznacza to jednak, że samo korzystanie z krajowej infrastruktury automatycznie eliminuje wszystkie możliwe zagrożenia. Znaczenie będą miały również zabezpieczenia techniczne, zasady dostępu do danych i procedury stosowane przez urzędników.
Co w przypadku, gdy AI popełni błąd?
Kolejną niewiadomą pozostaje odpowiedzialność za skutki błędnych analiz przygotowanych przez sztuczną inteligencję. Modele językowe potrafią generować nieprawdziwe informacje, a nawet powoływać się na nieistniejące przepisy. W administracji takie pomyłki mogą mieć szczególne znaczenie, zwłaszcza jeśli wpłyną na treść urzędowego pisma lub sposób prowadzenia postępowania.
Kto poniesie konsekwencje, jeżeli błąd algorytmu doprowadzi do naruszenia procedur administracyjnych? Na razie nie wszystkie kwestie prawne i organizacyjne zostały rozstrzygnięte.
Włodzimierz Tutaj przyznaje, że szczegółowe zasady dotyczące wykorzystywania AI w administracji wymagają dalszych ustaleń na poziomie krajowym.
– Kwestie prawne dotyczące zastosowania AI – również w administracji – obecnie reguluje AI Act, a przepisy szczegółowe opracowywane są przez Ministerstwo Cyfryzacji. Problem użycia AI w administracji, w tym przepisy wykonawcze, muszą więc podlegać dalszym regulacjom krajowym, które znajdą następnie odzwierciedlenie w urzędowym Systemie Zarządzania Bezpieczeństwem Informacji – wyjaśnia rzecznik.
Magistrat deklaruje jednocześnie, że już teraz zwraca uwagę na zagrożenia wynikające z korzystania z narzędzi sztucznej inteligencji. W ramach Systemu Zarządzania Bezpieczeństwem Informacji przeprowadzono szkolenia dla pracowników dotyczące ryzyka związanego z używaniem ogólnodostępnych aplikacji AI.
– Warto dodać, że w ramach SZBI w UM zostały już np. zorganizowane szkolenia o zagrożeniach stosowania obecnych, ogólnodostępnych narzędzi AI przez urzędników – dodaje Włodzimierz Tutaj.
Bezpłatny dostęp do modelu, ale kto zapłaci za infrastrukturę?
Wątpliwości dotyczą również kosztów, jakie mogą pojawić się po zakończeniu pilotażu. Urząd Miasta Częstochowy nie przewiduje opłat licencyjnych za rozwiązania opracowane i wdrożone w ramach publicznego projektu finansowanego ze środków unijnych. Wydatki mogą jednak wiązać się z koniecznością zapewnienia odpowiedniej infrastruktury technicznej.
– Z uwagi na to, że jest to projekt realizowany przez administrację publiczną za środki unijne (publiczne), nie zakładamy w przyszłości opłat licencyjnych za wprowadzone i wdrożone rozwiązania. Kosztem może być wykorzystanie infrastruktury technicznej, czyli własne serwery, czy miejsce dzierżawione, bo sam dostęp do modelu jest obecnie bezpłatny – wyjaśnia rzecznik.
Jak tłumaczy, rozwój modelu PLLuM ma opierać się między innymi na zasobach administracji publicznej. W tym celu niezbędne będzie udostępnianie odpowiednich zasobów we wspólnej infrastrukturze, z której mogłyby korzystać zarówno instytucje rządowe, jak i samorządy.
– Praktycznie rzecz biorąc, aby Model PLLuM mógł się uczyć na zasobach administracji publicznej, te zasoby powinny być współdzielone, czyli powinien być na zasobach „rządowych” i dostęp do nich powinna mieć administracja publiczna – rządowa i samorządowa – bezpłatnie – zauważa Włodzimierz Tutaj.
Ostateczny koszt korzystania z systemu będzie więc zależał między innymi od wymagań technicznych i sposobu zapewnienia infrastruktury po zakończeniu programu pilotażowego.
Spotkanie z ministerstwem ma przynieść odpowiedzi
Szczegóły dotyczące funkcjonowania asystenta, zabezpieczeń i zasad jego wykorzystywania mają zostać doprecyzowane podczas kolejnych etapów projektu. Urząd Miasta wskazuje, że więcej informacji będzie można przekazać po spotkaniu inaugurującym współpracę z Ministerstwem Cyfryzacji, zaplanowanym na piątek, 16 października.
Pilotaż ma pokazać, czy Asystent Urzędniczy AI rzeczywiście usprawni pracę samorządu i pozwoli ograniczyć czas poświęcany na powtarzalne zadania. Równie istotne będzie jednak sprawdzenie, czy przyjęte rozwiązania zapewniają odpowiedni poziom ochrony danych i pozwalają skutecznie kontrolować błędy generowane przez algorytm.
Na tym etapie miasto przedstawia udział w projekcie jako szansę na rozwój nowoczesnej administracji. O tym, czy system będzie można bezpiecznie wykorzystywać na szerszą skalę, zdecydują jednak nie tylko jego możliwości, ale również skuteczność zabezpieczeń, jasne procedury i zasady odpowiedzialności za podejmowane działania.
dziennikzachodni.pl