Wprowadzenie drogiego robota do zakładu to ogromna inwestycja, ale i spore wyzwanie dla działu prawnego oraz HR. Musisz wiedzieć, jak przygotować pracowników do obsługi takich maszyn, aby w razie błędu nie wahali się nacisnąć przycisku stop ze strachu przed karą za przestój.
Dlaczego pracownik boi się wyłączyć drogą maszynę?
Większość osób zatrudnionych przy liniach produkcyjnych ma z tyłu głowy jedną myśl: jeśli linia stanie przez moją decyzję, firma straci tysiące złotych, a ja premię.
Przy robotach sterowanych przez sztuczną inteligencję pojawia się też tzw. błąd automatyzacji. To nic innego jak nasza naturalna tendencja do nadmiernego ubezpieczania się decyzjami maszyny. Skoro komputer tak wyliczył, to pewnie ma rację – myślimy często, nawet gdy widzimy, że ramię robota porusza się nienaturalnie.
Art. 14 AI Act mówi wprost, że musimy z tym walczyć. Trzeba tak zaprojektować system i zasady pracy, aby człowiek czuł, że to on ma ostatnie słowo.
Czego wymagają przepisy o nadzorze nad AI?
Zgodnie z nowymi przepisami, systemy AI wysokiego ryzyka muszą być pod stałą kontrolą człowieka. Nie chodzi o to, żeby ktoś patrzył na robota przez osiem godzin. Nadzór musi być skuteczny. Oznacza to, że osoba wyznaczona do kontroli musi rozumieć ograniczenia maszyny i potrafić wykryć anomalię.
Co najważniejsze, musi mieć techniczną możliwość zignorowania wyników podawanych przez AI lub całkowitego zatrzymania systemu. Przycisk „stop” musi działać realnie i bezpiecznie, wprowadzając maszynę w stan, który nie zagraża otoczeniu.
Jak zapisać to w regulaminie pracy?
Jeśli chcesz, aby Twoja firma była bezpieczna, regulamin pracy musi jasno określać uprawnienia operatora.
Dobrym rozwiązaniem jest wpisanie procedury bezpiecznego przerwania pracy. Można tam zaznaczyć, że w sytuacji podejrzenia awarii lub błędnego działania algorytmu, pracownik ma obowiązek zatrzymać urządzenie.
Kluczowe jest dodanie zapisu, że za taką decyzję podjętą w dobrej wierze pracownik nie ponosi odpowiedzialności materialnej. Jeśli pracownik będzie wiedział, że chroni go regulamin, łatwiej mu będzie zareagować, zanim dojdzie do prawdziwej katastrofy lub zniszczenia mienia o większej wartości.
Przykład z praktyki produkcyjnej
Wyobraź sobie robota pakującego paczki, który nagle zaczyna je gnieść. AI uznaje, że tempo jest priorytetem i zwiększa siłę nacisku, ignorując uszkodzenia towaru. Pracownik widzi, że maszyna niszczy produkty warte fortunę, ale boi się, że wyłączenie linii na godzinę narazi go na gniew szefa.
Jeśli Twój regulamin przewiduje, że w takim przypadku operator ma pierwszeństwo nad algorytmem, straty ograniczą się do kilku paczek zamiast całego transportu.
To właśnie jest realny nadzór nad sztuczną inteligencją, o którym piszą autorzy komentarzy do AI Act.
Krótkie podsumowanie i porada prawna
Odpowiednie przygotowanie dokumentacji wewnętrznej to nie tylko biurokracja, ale realna ochrona przed stratami.
Moja rada: sprawdź dokładnie polisę ubezpieczeniową swojej firmy.
Często ubezpieczyciele wymagają, aby procedury obsługi maszyn były spójne z instrukcjami dostawcy. Jeśli pracownik wyłączy robota w sposób niezgodny z instrukcją – bo np. nie został przeszkolony z procedury fail-safe – ubezpieczyciel może odmówić wypłaty odszkodowania za uszkodzony sprzęt.
ℹ️ FAQ – Najczęstsze pytania
- Czy każdy robot w fabryce wymaga nadzoru według AI Act?
– Nie, tylko te, które korzystają z systemów AI sklasyfikowanych jako wysokie ryzyko, np. w infrastrukturze krytycznej lub przy ocenie pracowników. - Kogo najlepiej wyznaczyć do nadzoru nad maszyną?
– Musi to być osoba z odpowiednimi kompetencjami i uprawnieniami, która przeszła szkolenie z zakresu danej technologii. - Czy regulamin pracy może nakładać kary za nieuzasadnione wyłączenie robota?
– Tak, ale granica między błędem a działaniem w dobrej wierze jest cienka. Lepiej postawić na edukację i jasne instrukcje, co uznajemy za awarię. - Co to jest przycisk stop w rozumieniu AI Act?
– To nie tylko fizyczny guzik, ale każda procedura, która pozwala zatrzymać system w bezpiecznym stanie bez ryzyka dla zdrowia i mienia. - Czy muszę informować pracowników, że nadzoruje ich AI?
– Tak, jeśli system AI podejmuje decyzje o ich pracy lub uczestniczy w procesie rekrutacji, masz obowiązek ich o tym powiadomić.
Jeśli potrzebujesz pomocy prawnej lub chcesz skonsultować swoją sprawę, napisz na adres pl@lexrobotics.pl lub zadzwoń pod numer 604 168 489.
