Koniec negocjacji w sprawie unijnego AI Act. Ostateczną treść poznamy za miesiąc.
Za nami ostatni odcinek negocjacji trójstronnych w sprawie unijnego rozporządzenia o sztucznej inteligencji. W dokumencie znalazły się obowiązkowe oceny ryzyka dla systemów należących do kategorii wysokiego ryzyka, prawo do skargi na działanie systemów AI i podwyższone standardy dla modeli podstawowych, o które walczyły organizacje społeczne. Szczegóły przyjętych rozwiązań poznamy dopiero za około miesiąc, kiedy opublikowana zostanie oficjalna wersja AI Act.
Przedstawiciele Parlamentu, Komisji Europejskiej i Rady Unii Europejskiej wypracowali konsensus po 36-godzinnym maratonie negocjacyjnym. O efekt pytamy prezeskę Fundacji Panoptykon
Katarzynę Szymielewicz, która w ramach koalicji europejskich organizacji społecznych zabiegała o prawa ludzi w tworzonej regulacji.
– Nie jest dobrze, ale na pewno mogło być gorzej. Ochrona praw ludzi w ostatecznej wersji aktu jest słabsza niż to, co proponował Parlament Europejski w czerwcu, ale jest dużo lepsza niż w projekcie, który wyszedł z Komisji Europejskiej – ocenia Szymielewicz.
Od kwietnia 2021 r., kiedy Komisja Europejska ogłosiła swój projekt regulacji, organizacje społeczne w całej Europie walczyły o wydłużenie listy systemów zakazanych, doprecyzowanie kryteriów decydujących o tym, jaki system trafi do kategorii wysokiego ryzyka, a także realne obowiązki dla firm i instytucji wdrażających takie systemy.
– Najbardziej kontrowersyjne z punktu widzenia organizacji społecznych jest rozwodnienie zakazów, które miały chronić Europejczyków i Europejki przed systemami, które potrafią ustalać tożsamość człowieka na podstawie zdjęcia jego twarzy albo rozpoznawać przeżywane w danym momencie emocje. Takie systemy mogą być łatwo użyte przeciwko ludziom, np. przez niekontrolowane w sposób demokratyczny służby – wyjaśnia Szymielewicz. – Na szczęście ostał się przynajmniej zakaz scoringu społecznego.
Organizacje chciały też wprowadzenia konkretnych mechanizmów chroniących ludzi w zetknięciu z systemami sztucznej inteligencji.
– Według przecieków w ostatecznym tekście AI Act znalazło się prawo do indywidualnej skargi na źle działający albo dyskryminujący system. Będziemy mieć też możliwość zbiorowego dochodzenia praw. To ważne, bo mówimy o systemach, których działanie dotyka wielu osób. A więc kiedy popełniają błędy – również wiele osób na tym cierpi – dodaje Szymielewicz.
Najtrudniejsze w negocjacjach okazały się zagadnienia związane z regulacją modeli podstawowych, takich jak GPT, Bard, Anthropic czy Gemini. Ostatecznie regulacja obejmie także ich twórców i dostawców. Nałożone na nich obowiązki, w tym m.in. zarządzanie ryzykiem, udostępnianie dokumentacji technicznej partnerom, przejrzystość, jakość i zgodność z prawem baz danych treningowych, będą minimalne dla niewielkich modeli, a większe dla liderów rynku takich jak Microsoft czy OpenAI.
Duże emocje wzbudziły też obowiązki firm i instytucji wdrażających systemy z kategorii wysokiego ryzyka. – Ostatecznie w AI Act – przynajmniej według przecieków – znalazł się obowiązek przeprowadzania oceny wpływu na prawa człowieka dla każdego takiego systemu przed jego wdrożeniem. W ten sposób Unia Europejska chce zapobiegać szkodom, jakie może powodować źle zaprojektowana albo źle wykorzystana sztuczna inteligencja, a nie czekać aż mleko się wyleje – wyjaśnia Szymielewicz.
Z bardziej szczegółowym komentarzem Panoptykon wstrzymuje się do momentu, kiedy zostanie opublikowana ostateczna treść rozporządzenia o AI – co powinno nastąpić w ciągu kilku tygodni.
Prawa do materiału prasowego: Fundacja Panoptykon.
Treść dostępna na licencji CC BY-SA 4.0.
foto pixabay
Obchody 900-lecia jubileuszu
W sobotę 11 maja br. w Ośnie Lubuskim odbędą się uroczyste obchody z okazji dziewięćsetlecia ustanowienia biskupstwa lubuskiego.
Przygotowania do tej ...
<czytaj dalej>Przebudują Ikara
Przetarg na przebudowę ostatniego etapu ulicy Ikara rozstrzygnięty.
Kolejna osiedlowa uliczka zostanie w pełni przebudowana. Nowa nawierzchnia ul. Ikara ułatwi codzienne ...
<czytaj dalej>Oni tu zostają
„Zostaję!” to hasło nowej kampanii promującej Gorzów, która ma zwrócić uwagę na zalety naszego miasta, dzięki którym jest ono doskonałym ...
<czytaj dalej>Pielgrzymki
Tegoroczna piesza pielgrzymka powołaniowa odbędzie się w sobotę w sobotę 27 kwietnia.
Wyjście pielgrzymki na trasę z Paradyża do Rokitna nastąpi ...
<czytaj dalej>