Koniec negocjacji w sprawie unijnego AI Act. Ostateczną treść poznamy za miesiąc.

Za nami ostatni odcinek negocjacji trójstronnych w sprawie unijnego rozporządzenia o sztucznej inteligencji. W dokumencie znalazły się obowiązkowe oceny ryzyka dla systemów należących do kategorii wysokiego ryzyka, prawo do skargi na działanie systemów AI i podwyższone standardy dla modeli podstawowych, o które walczyły organizacje społeczne. Szczegóły przyjętych rozwiązań poznamy dopiero za około miesiąc, kiedy opublikowana zostanie oficjalna wersja AI Act.

Przedstawiciele Parlamentu, Komisji Europejskiej i Rady Unii Europejskiej wypracowali konsensus po 36-godzinnym maratonie negocjacyjnym. O efekt pytamy prezeskę Fundacji Panoptykon Katarzynę Szymielewicz, która w ramach koalicji europejskich organizacji społecznych zabiegała o prawa ludzi w tworzonej regulacji.

– Nie jest dobrze, ale na pewno mogło być gorzej. Ochrona praw ludzi w ostatecznej wersji aktu jest słabsza niż to, co proponował Parlament Europejski w czerwcu, ale jest dużo lepsza niż w projekcie, który wyszedł z Komisji Europejskiej – ocenia Szymielewicz.

Od kwietnia 2021 r., kiedy Komisja Europejska ogłosiła swój projekt regulacji, organizacje społeczne w całej Europie walczyły o wydłużenie listy systemów zakazanych, doprecyzowanie kryteriów decydujących o tym, jaki system trafi do kategorii wysokiego ryzyka, a także realne obowiązki dla firm i instytucji wdrażających takie systemy.

– Najbardziej kontrowersyjne z punktu widzenia organizacji społecznych jest rozwodnienie zakazów, które miały chronić Europejczyków i Europejki przed systemami, które potrafią ustalać tożsamość człowieka na podstawie zdjęcia jego twarzy albo rozpoznawać przeżywane w danym momencie emocje. Takie systemy mogą być łatwo użyte przeciwko ludziom, np. przez niekontrolowane w sposób demokratyczny służby – wyjaśnia Szymielewicz. – Na szczęście ostał się przynajmniej zakaz scoringu społecznego.

Organizacje chciały też wprowadzenia konkretnych mechanizmów chroniących ludzi w zetknięciu z systemami sztucznej inteligencji.

– Według przecieków w ostatecznym tekście AI Act znalazło się prawo do indywidualnej skargi na źle działający albo dyskryminujący system. Będziemy mieć też możliwość zbiorowego dochodzenia praw. To ważne, bo mówimy o systemach, których działanie dotyka wielu osób. A więc kiedy popełniają błędy – również wiele osób na tym cierpi – dodaje Szymielewicz.

Najtrudniejsze w negocjacjach okazały się zagadnienia związane z regulacją modeli podstawowych, takich jak GPT, Bard, Anthropic czy Gemini. Ostatecznie regulacja obejmie także ich twórców i dostawców. Nałożone na nich obowiązki, w tym m.in. zarządzanie ryzykiem, udostępnianie dokumentacji technicznej partnerom, przejrzystość, jakość i zgodność z prawem baz danych treningowych, będą minimalne dla niewielkich modeli, a większe dla liderów rynku takich jak Microsoft czy OpenAI.

Duże emocje wzbudziły też obowiązki firm i instytucji wdrażających systemy z kategorii wysokiego ryzyka. – Ostatecznie w AI Act – przynajmniej według przecieków – znalazł się obowiązek przeprowadzania oceny wpływu na prawa człowieka dla każdego takiego systemu przed jego wdrożeniem. W ten sposób Unia Europejska chce zapobiegać szkodom, jakie może powodować źle zaprojektowana albo źle wykorzystana sztuczna inteligencja, a nie czekać aż mleko się wyleje – wyjaśnia Szymielewicz.

Z bardziej szczegółowym komentarzem Panoptykon wstrzymuje się do momentu, kiedy zostanie opublikowana ostateczna treść rozporządzenia o AI – co powinno nastąpić w ciągu kilku tygodni.

Prawa do materiału prasowego: Fundacja Panoptykon.
Treść dostępna na licencji CC BY-SA 4.0.
foto pixabay

Dodaj komentarz:

Komentarze:

Koniec z kolejowym wykluczeniem?

Gorzów i gminy północy przestaną być wykluczone kolejowo. Już jesienią zwiększy się liczba i poprawi jakość połączeń. Ale to tylko ... <czytaj dalej>

W Arenie po nowemu

Już w najbliższy weekend rozpocznie się kolejny sezon w gorzowskiej hali Arena Gorzów. Siatkarze Cuprum Stilon Gorzów zainaugurują go podczas rozgrywek ... <czytaj dalej>

Odznaczenia dla świeckich

W najbliższą niedzielę 8 września w gorzowskiej katedrze wręczone zostaną odznaczenia „Zasłużony dla Diecezji Zielonogórsko-Gorzowskiej”. W tym roku wyróżnienie to ... <czytaj dalej>

Cegielski szynobus połączy stolice

Nowiutki lubuski szynobus już na torach. Pierwszy z dwóch fabrycznie nowych pojazdów zakupionych przez Województwo Lubuskie od polskiego producenta H. Cegielski ... <czytaj dalej>

«	wrzesień 2024					»
P	W	Ś	C	P	S	N
						1
2	3	4	5	6	7	8
9	10	11	12	13	14	15
16	17	18	19	20	21	22
23	24	25	26	27	28	29
30

Wakacyjna lekcja

aktualnie nie ma żadnej czynnej sondy

Blogujesz? Rób to lokalnie!
Wystarczy jedno kliknięcie w egoBlog

Masz problem?
Napisz do eksperta egoEkspert

Żadna sprawa nie zostanie bez odzewu. Daj znać na eGo Forum

to nie państwo białoruś platformerska hipokryzjo! <czytaj dalej>

Pierwsze co mnie ciekawi to dlaczego w tajemnicy był ten przyjazd? Pasażerowie lepiej powiedzieliby co ich trapi niż Wójcicki, Sibińaka czy Jabł <czytaj dalej>

Może redakcja coś zrobi z tą mową nienawiści. A jej autor niech się uda do specjalisty. Długo tak nie pociągnie <czytaj dalej>

Tak w 2026 będzie skończony most z kładka tylko jeszcze nie został zaczęty a mamy drugą połowę 2024.
Oczywiście wszystkie mordy na zdj <czytaj dalej>

Hipokryci z KO. Czyli złodzieje publicznych pieniędzy wyemitowali spot dziemianowicz bąk promujący program aktywny rodzic
Z autopromocją m <czytaj dalej>