ZURICH & MICROSOFT: Inteligenta Artificiala da nastere unei "raspunderi algoritmice"

Avatar autor XPRIMM
Autor
Cristian SUCA
Avatar
Cristian SUCA
Editor
Data articol
04.08.2021
O societate tot mai digitalizata se confrunta cu riscuri care apar din ce in ce mai repede, intrucat deciziile luate de algoritmi si Inteligenta Artificiala joaca un rol important in viata de zi cu zi. "Artificial Intelligence and Algorithmic Liability - A technology and risk engineering perspective", studiu realizat de catre ZURICH Insurance Group si Microsoft Corp., subliniaza ca dezlantuirea puterii datelor si a Inteligentei Artificiale creeaza "oportunitati nesfarsite de afaceri pentru a imbunatati, in cele din urma, calitatea vietii noastre".

Insa, odata cu aceste oportunitati, avertizeaza raportul, apare si un "spectru larg de riscuri care cuprinde nu numai respectarea reglementarilor, ci si raspunderrea si riscul reputational, in cazul in care luarea de decizii algoritmice declanseaza consecinte neintentionate potential daunatoare". Astfel, studiul detaliaza notiunea tot mai populara a riscului algorithmic AI si, totodata, sugereaza moduri in care managerii de risc si asiguratorii pot gestiona acest risc.

Studiul mai include si o analiza aprofundata a cazurilor relevante in domenii precum raspunderea pentru produse, despagubiri profesionale si neglijenta medicala, care ofera indrumari cu privire la minimizarea expuneriisi a potentialelor daune pentru clienti si pentru reputatia unei organizatii.

"Nu este lipsa de etica, ci lipsa de consideratie a eticii pe care trebuie sa o prevenim atunci cand folosim Inteligenta Artificiala", subliniaza Ericson CHAN - Group Chief Information & Digital Officer, ZURICH Insurance Group.

Ce este riscul algorithmic AI

Conform lucrarii, riscul este definit ca rezultat al utilizarii tehnologiei data analytics si tehnologiei cognitive bazate pe algoritmi software in luarea deciziilor automatizate si semi-automatizate. Daca algoritmii nu functioneaza conform asteptarilor, rezultatul poate fi reprezentat de pierderi materiale, intreruperea afacerii, vatamari corporale, raspundere profesionala, neglijenta medicala si expuneri cibernetice.

Gestionarea riscului algorithmic AI e deosebit de importanta deoarece exista putine produse de asigurare care sa acopere acest risc. Conmform raportului, industria de asigurari abia incepe sa inteleaga riscul si sa dezvolte o acoperire in acest sens, din cauza lipsei de informatii si modele care pot estima frecventa si severitatea potentialelor pierderi.

"Mai mult, din cauza interconectarii business-urilor, pierderile asociate cu riscurile AI se pot raspandi rapid in intreaga lume, crescand substantial acumularea de risc si radicand probleme de asigurabilitate urmare a lipsei diversificarii riscurilor."

Gestionarea riscurilor AI

Exista servicii specifice de gestionare a riscurilor pe care asiguratorii le pot oferi companiilor mari si celor mici si mijlocii, concentrandu-se pe aspecte de-a lungul ciclului de viata al dezvoltarii algoritmului AI, de la introducerea datelor, pana la luarea deciziilor.

"Serviciile de gestionare a riscurilor pot fi dezvoltate pentru a imbunatati confidentialitatea si securitatea datelor si algoritmilor", arata Rui FERREIRA - Chief Data Governance Officer, ZURICH Insurance Group.

Raportul sugereaza, de exemplu, masuri care pot fi luate pentru a aborda riscul de raspundere pentru produse care este asociat algoritmilor AI. Pe masura ce utilizarea AI devine omniprezenta in sectoare precum transportul si productia, siguranta va fi primordiala pentru interactiunile om-masina, noteaza studiul. "Defectiunile produselor ar putea aparea chiar din erori de comunicare intre doua masini sau intre masina si interfata".

Facand trimitere la producatorii de vehicule autonome si aerospatiale drept exemple de unde ar putea aparea riscul de raspundere pentru produse, raportul sugereaza ca o abordare de gestionare a risculuiar trebui sa includa:
  • O analiza sistematica a riscurilor si a sistemului AI propus pentru a descoperi potentiale defectiuni
  • Stabilirea unor indicatori de performanta pe baza sensibilitatii si a utilizarii sistemului pentru a asigura atingerea obiectivelor
  • Construirea de mecanisme de corectie si/sau optiuni de rezerva pentru a detecta si corecta sub-performantelesau pentru a permite interactiunii umane sa remedieze problemele
  • Mentinerea unui sistem de control al versiunilor pentru a documenta dezvoltarea si istorica sistemului AI
  • Respectarea celor mai bune practici pentru utilizarea responsabila a rehnologiei
  • Adoptarea standardelor si/sau certificarea sistemului AI, care poate oferi asigurarea performantei tehnice si respectarea standardelor etice.
"O abordare de guvernanta proactiva pentru a asigura AI de incredere inspira incredere intr-o societate digitala", spune si Elisabeth BECHTOLD - Global Lead Data Governance & Oversight, ZURICH Insurance Group.

Companiile tehnologice si asiguratorii pot colabora pentru a contribui la atenuarea riscurilor emergente AI in toate industriile. Asiguratorii precum ZURICH au o lunga istorie in ceea ce priveste incurajarea utilizarii celor mai bune practici si cu privire la gasirea de solutii inovatoare pentru expuneri necunoscute, in timp ce companiile tehnologice ofera o perspectiva directa asupra celor mai noi metode pentru a reduce riscul de la etapa de dezvoltare si pana la cea de implementare a sistemelor complexe. Aceasta colaborare intre industrii poate contribui la cresterea increderii publicului in aceste sisteme, care devin tot mai prezente in vietile noastre.

Detalii, AICI.

Video