Obawy i kary związane z mapowaniem i śledzeniem sztucznej inteligencji w chińskim systemie kredytu społecznego.
Chiński system kredytów społecznych, który wykorzystuje sztuczną inteligencję i duże zbiory danych do oceny wiarygodności podmiotów, ujawnia głębokie obawy dotyczące prywatności, wolności i konsekwencji państwa inwigilacyjnego. System ten, różniący się w zależności od regionu, składa się z odrębnych podsystemów dla przedsiębiorstw, osób fizycznych, wymiaru sprawiedliwości i urzędników rządowych. Kary za naruszenia są surowe i dalekosiężne.
Rozwój i zastosowanie sztucznej inteligencji w inwigilacji budzi poważne obawy dotyczące mapowania i karania działań jednostek. W Chinach system kredytu społecznego, będący połączeniem zdolności kredytowej finansowej i szerszej koncepcji „zdolności kredytowej społecznej”, ma na celu zwiększenie zaufania społecznego. System ten karze zachowania od korupcji po zanieczyszczenie, a jego celem jest wspieranie społeczeństwa bardziej godnego zaufania.
We wdrożeniach lokalnych, np. w Rongcheng, zachowania takie jak rozpowszechnianie szkodliwych informacji w Internecie lub osiągnięcia w konkursach krajowych mogą mieć wpływ na zdolność kredytową danej osoby. Na przykład w Rongcheng rozpowszechnianie szkodliwych informacji może prowadzić do odjęcia punktów od oceny zdolności kredytowej danej osoby.
Na poziomie krajowym nacisk kładziony jest bardziej na zgodność z przepisami korporacyjnymi, a nie na punktację indywidualną. Jednakże system pociąga za sobą środki karne za nieprzestrzeganie przepisów, w tym publiczne ujawnianie złych historii kredytowych, ograniczenia konsumpcji dóbr luksusowych i zakazy podróżowania. Podejście rządu centralnego kładzie nacisk na przestrzeganie istniejących przepisów, przeciwstawiając się nadmiernym wdrożeniom samorządów lokalnych i zapewniając zgodność kar z ustalonymi normami prawnymi.
Zmiany te uwydatniają obawy dotyczące roli sztucznej inteligencji w monitorowaniu zachowań i wpływaniu na nie, podkreślając potrzebę zrównoważenia postępu technologicznego ze względami etycznymi i prawami jednostki.
RODZAJE SANKCJI I KAR
Krajowy podstawowy wykaz środków kar za nierzetelność dzieli sankcje na trzy typy:
- Ograniczenia praw i interesów : obejmują one ograniczenia dostępu do rynku lub branży, zatrudnienia, edukacji, konsumpcji i możliwości opuszczenia kraju.
- Środki nierestrykcyjne : takie jak ograniczenia dotyczące wniosków o fundusze fiskalne, preferencyjne korzyści polityczne i udostępnianie niewiarygodnych informacji.
- Środki podejmowane przez agencje niepaństwowe : W tym raporty z badań rynkowych dotyczących kredytów i rygorystyczne wymogi dotyczące udzielania kredytów.
Władze lokalne mogą również tworzyć dodatkowe wykazy środków kar specjalnych na terenie swoich jurysdykcji, pod warunkiem, że są one zgodne z prawem krajowym.
PRZYKŁADY OGRANICZEŃ
System kredytu społecznego nakłada różne ograniczenia w oparciu o indywidualną zdolność kredytową. Obejmują one:
- Zakazy podróżowania : Osoby o niskiej zdolności kredytowej mogą spotkać się z ograniczeniami w podróżowaniu w Chinach i za granicą.
- Zakazy szkolne : Dzieciom osób z niskimi wynikami można odmówić przyjęcia do szkół i uniwersytetów.
- Zakazy w hotelach i Internecie : Osoby z niskimi wynikami mogą zostać wyrzucone z niektórych hoteli i doświadczyć ograniczonej prędkości Internetu.
- Przeszkody w karierze : Osoby z niskimi wynikami mogą napotkać trudności w zatrudnieniu, ponieważ firmy przed zatrudnieniem korzystają z czarnych list.
- Publiczne zawstydzanie : system polega na publicznym zawstydzaniu osób z niskimi wynikami, co może zaszkodzić pozycji społecznej i rozwojowi biznesu.
OBAWY DOTYCZĄCE PRAW CZŁOWIEKA
System kredytu społecznego narusza kilka praw człowieka, w tym:
- Prywatność : Obowiązkowy i publiczny charakter systemu w połączeniu z brakiem zgody na gromadzenie danych narusza prawo do prywatności.
- Wolność słowa : system nakłada na dysydentów ograniczenia finansowe i podróżne, co zagraża wolności słowa.
- Prawa rodzinne : Dostęp dzieci do świadczeń zależy od wyników ich rodziców, co podważa świętość jednostek rodzinnych.
BRAK STANDARYZACJI I PRZEJRZYSTOŚCI
W systemie brakuje jasności co do tego, co stanowi „niepożądane” zachowanie, bez rozróżnienia między wykroczeniami cywilnymi i karnymi. Sankcje są nakładane bez procesów i naturalnej sprawiedliwości i nie ma mechanizmu odwołania ani usunięcia z czarnej listy. W różnych regionach obowiązują różne kryteria obliczania punktów, co w równym stopniu wpływa na uprawnienia obywateli do świadczeń.
GLOBALNE IMPLIKACJE
Gdyby taki system został przyjęty na całym świecie, konsekwencje byłyby tragiczne. Stanowiłoby to znaczącą zmianę w kierunku stanu globalnej inwigilacji, w którym wolności osobiste są ograniczane, a prywatność praktycznie nie istnieje. Brak przejrzystości i standaryzacji w takich systemach może prowadzić do arbitralnych i dyskryminacyjnych praktyk w skali globalnej. Perspektywa ta podkreśla pilną potrzebę solidnych dyskusji na temat etycznego wykorzystania sztucznej inteligencji w inwigilacji i ochrony podstawowych praw człowieka w epoce cyfrowej.
