La serviciu, echipa ta folosește un instrument de inteligență artificială pentru a selecta candidaturile la un post. Sistemul recomandă respingerea unei persoane, iar candidatura este eliminată fără o verificare atentă.
Mai târziu, descoperiți că experiența relevantă a candidatului fusese interpretată greșit.
„Eu doar am folosit rezultatul”, spune colegul care a trimis refuzul. „Noi doar am ales aplicația”, spune managerul. „Noi oferim recomandări, utilizatorii decid”, spune furnizorul.
Au contribuit mai mulți. Dar cine trebuia să verifice?
Ce se întâmplă în mintea ta
Când o decizie trece prin mai multe persoane, echipe și sisteme, responsabilitatea poate deveni neclară. Fiecare vede partea sa ca fiind mică și presupune că verificarea sau asumarea rezultatului aparține altcuiva.
În folosirea AI, această neclaritate poate implica atât oamenii care dezvoltă și introduc sistemul, cât și pe cei care folosesc recomandările lui. Cercetarea despre responsabilitate în sistemele de sprijin decizional arată că dificultatea privește și organizarea procesului, nu doar atitudinea utilizatorului.
Gândul „am urmat recomandarea” poate ajunge să țină locul întrebării „ce am verificat înainte să o accept?”.
Unde o mai poți întâlni
Imaginează-ți că pregătești împreună cu un coleg o prezentare. Un chatbot generează câteva statistici. Tu presupui că le verifică el, el crede că le-ai verificat tu, iar cifrele ajung în prezentare fără ca cineva să consulte sursele.
Sau o echipă publică un mesaj nepotrivit, redactat cu AI. Persoana care l-a generat spune că era doar o propunere. Cea care l-a aprobat spune că s-a ocupat numai de formatare. Fiecare presupusese că altcineva verificase conținutul.
Acestea sunt situații ilustrative, nu relatări despre cazuri documentate.
Este același lucru cu încrederea prea mare în AI?
Cele două se pot suprapune, dar întrebările sunt diferite:
- Biasul automatizării: „Dacă sistemul recomandă asta, probabil este corect.” Acceptăm recomandarea fără suficientă verificare.
- Difuzarea responsabilității: „Verificarea și consecințele țin de altcineva.” Devine neclar cine trebuie să răspundă pentru proces și rezultat.
Folosirea AI înseamnă că evităm responsabilitatea?
Nu. Delegarea unor sarcini poate fi utilă. Problema apare când rolurile se estompează: cine verifică informațiile, cine poate opri o recomandare și cine se ocupă de corectarea greșelilor?
Responsabilitățile pot fi împărțite între mai mulți participanți. Împărțirea lor are nevoie de claritate și de posibilități reale de intervenție.
Ce poți încerca
Aceste întrebări practice pot ajuta la clarificarea procesului:
- Stabilește cine verifică, înainte de folosirea rezultatului. Într-o echipă, înlocuiește „verificăm noi” cu o persoană și o sarcină precisă.
- Numește contribuția ta. În loc de „AI-ul a decis”, încearcă „am acceptat recomandarea după ce am verificat…”. Observă dacă poți completa propoziția.
- Cere acces la informațiile relevante. Pentru a verifica o recomandare, ai nevoie de mai mult decât concluzia sistemului.
- Clarifică ce se întâmplă când apare o eroare. Cine o poate semnala, cine reanalizează rezultatul și cine îl corectează?
Simplul îndemn „fii responsabil” poate fi insuficient. Într-un experiment despre preselecția candidaților cu ajutorul AI, informarea participanților despre responsabilitatea lor nu a crescut verificarea așa cum anticipaseră cercetătorii. Informarea despre posibilele erori ale sistemului a îmbunătățit indicatorii de verificare. Rezultatul privește acel context, nu garantează aceeași eficiență în orice situație.
O întrebare de luat cu tine
„Dacă această recomandare se dovedește greșită, știm cine trebuia să o verifice și cine o poate corecta?”
Denumire și contexte
- Denumire folosită în ghid
- Difuzarea responsabilității în AI
- Termen în engleză
- Accountability diffusion in AI
- Tip
- fenomen psihosocial și organizațional legat de folosirea AI; nu îl tratăm ca pe un bias cognitiv individual distinct, cu o definiție universal acceptată.
- Îl mai întâlnești în
- informații și convingeri, proiecte de echipă și publicarea conținutului.
- Concepte înrudite
- Biasul automatizării; Biasul autorității.
Surse
- Bleher, H. & Braun, M. (2022). Diffused responsibility: attributions of responsibility in the use of AI-driven clinical decision support systems. AI and Ethics, 2, 747–761.
- Kupfer, C., Prassl, R., Fleiß, J., Malin, C., Thalmann, S. & Kubicek, B. (2023). Check the box! How to deal with automation bias in AI-based personnel selection. Frontiers in Psychology, 14, 1118723.