Agència

Què és?

Agència és un terme filosòfic per fer referència a la manifestació de la capacitat d’una entitat (algú o alguna cosa) de prendre una decisió i actuar. Una pedra és inerta i per tant no té capacitat d’actuar, per la qual cosa no té agència. Puc agafar aquesta pedra i llançar-la contra la casa de Lev Manovich, i trencar-li una finestra. Per tant, tinc agència, encara que en aquest cas la utilitzi d’una manera molt pobra.

Per què utilitzar un terme tan abstracte en teoria del disseny? A causa de la revolució de les tecnologies digitals, s’ha creat un nou tipus de dispositius capaços de realitzar accions per si mateixos que no són comparables als tipus de criatures que normalment se suposen capaces de prendre decisions i actuar, bàsicament humans. Així, un bot que reenvia notícies a Twitter en funció d’una sèrie de paràmetres programats té agència, tot i que a escala biològica no sigui gaire diferent de la pedra que es comentava abans.

És important destacar que es parla de la manifestació de la capacitat d’actuar i no només de la capacitat d’actuar. És a dir, si algú o alguna cosa té la capacitat d’actuar, però no ho la manifesta en cap moment, no es dirà que tingui agència. Per exemple, si es programa un bot a Twitter per reenviar notícies sobre el canvi climàtic en funció d’una sèrie de paràmetres, però aquest bot no està connectat a lnternet i sempre es queda allà, dormint en un disc dur, no es dirà que aquest bot té agència. Per tenir agència cal manifestar-se, realitzar alguna mena d’acció.

Perquè hi hagi agència, també és important que es prengui una decisió. És a dir, el sistema amb agència ha de poder recopilar informació sobre el món exterior, analitzar-la, prendre una decisió i emprendre l’acció associada a aquella decisió. Si l’acció és un mer resultat d’un procés mecànic no es pot parlar d’agència.

Posem un exemple senzill: imaginem una muntanya nevada a l’hivern i, al cim, un arbre solitari. Cau una branca que provoca que una sèrie de pedres llisqui pel vessant. Aquest moviment genera una allau i la neu comença a caure descontroladament. Lev Manovich estava esquiant per allà, veu venir la neu i accelera fins a posar-se a recer sota una cornisa.

En la primera part de l’esdeveniment, la branca que cau, no es parla d’agència, encara que s’hagi generat una acció, l’allau, ja que tot el procés ha estat purament mecànic. Ni les branques, ni les pedres ni la neu han pres cap decisió. En canvi, quan Manovich decideix refugiar-se sota una cornisa, aquí sí que es pot parlar d’agència, ja que pren una decisió a partir de la informació que obté amb el seu sentit de la visió.

Imagineu ara que Manovich té una aplicació al seu mòbil que és capaç de detectar allaus a partir d’una anàlisi del so que l’envolta. Com abans, Manovich esquia però està absent del que l’envolta i pensa en el seu proper llibre. Quan les pedres comencen a rodar i afecten la neu, l’app detecta una subtil indicació sònica i vibra per advertir-lo, surt de la seva abstracció i llisca fins a la cornisa. En aquest cas, es diria que l’app té agència, encara que no disposi de consciència, clarament, perquè és capaç d’analitzar informació, prendre una decisió i emprendre una acció.

Formes d’aplicació

Una teoria o model sobre l’agència es pot aplicar bàsicament de dues maneres. D’una banda, disposem de models que expliquen els graus i la capacitat d’agència de diferents subjectes en un sistema. Aquests models es desenvolupen a partir de la sociologia, l’antropologia, la psicologia i l’administració d’empreses. Aquest tipus de desenvolupaments se solen conèixer com a teoria de l’agència.

D’altra banda, tenim la qüestió de com dotar d’agència un sistema artificial. Es tracta d’una tasca que es realitza des de la informàtica i, especialment, des de la intel·ligència artificial (IA). La investigació sobre aquests temes s’agrupa sota el terme genèric d’agència en IA.

La teoria de l’agència es pot aplicar així a organitzacions, tot analitzant l’agència dels diferents integrants, tot estudiant de quina manera un agent determinat rep ordres o pot donar-les, delegant la seva responsabilitat en altres agents. Així es prova de localitzar possibles problemes i com es pot millorar un sistema.

En general, sempre que disposem d’una xarxa d’agents interconnectats entre si, podem desenvolupar una teoria de l’agència, és a dir, un model que ens permeti establir com es distribueix l’agència a la xarxa. Així, no cal limitar-nos a organitzacions empresarials, encara que aquest sigui l’espai més típic en què s’aplica la teoria de l’agència. Però podem tenir una teoria de l’agència d’un grup de software lliure que desenvolupa un editor de text per a Linux, un equip de futbol, un batalló de marines o el trànsit d’entrada i sortida d’automòbils en una gran ciutat.

Algunes teories inclouen només agents humans, altres models també inclouen artefactes amb agència, que informen. Així ho fan, per exemple, les teories de l’agència basades en el concepte de cognició distribuïda. Pensem en un avió comercial de transport de passatgers. Si volem entendre amb propietat les interaccions que es creen durant el procés de vol, sens dubte serà important incloure-hi el pilot, el copilot i el controlador aeri, però també hi haurem d’incloure els diferents dispositius que informen el pilot i el copilot sobre diferents aspectes de l’avió i de l’entorn, així com el pilot automàtic, ja que es tracta d’artefactes amb algun tipus d’agència.

En el disseny d’artefactes i productes interactius podem diferenciar cinc tipus d’agència, en funció de la quantitat de dades que s’extrapolen per prendre la decisió que realitzarà l’acció.

Agència reflexa

Aquí, el sistema simplement recull dades actuals, presents, i pren una decisió. L’exemple clàssic és un termòstat. Suposem que tenim un termòstat d’una casa a les 18 ºC. Mentre la casa estigui a una temperatura igual o superior a 18 ºC, el termòstat no farà res. En el moment en què la temperatura baixi a 17 ºC, el termòstat activarà la calefacció fins que la casa torni a estar a 18 ºC, i en aquest cas tornarà a apagar la calefacció. El termòstat no té memòria i, per tant, no utilitza informació sobre quina era la temperatura fa mitja hora o fa cinc minuts. Només reacciona a la temperatura present.

En un entorn de bots, seria una programació molt senzilla en la qual el software simplement reacciona a l’ordre que l’usuari ha escrit, sense tenir en compte el que l’usuari hagi dit anteriorment. Seria un sistema de regles molt senzill, del tipus «Si l’usuari diu “Bon dia”, respondre “Bon dia”; si l’usuari diu “Com estàs?”, respondre “Molt bé, i vostè?”».

Agència basada en un model

En aquest tipus d’agència, l’agent disposa d’algun tipus de model descriptor de com funciona el món i l’utilitza per canviar el seu estat intern. El model que té el sistema li permet canviar d’estat intern, de manera que davant un mateix input la resposta pot ser diferent, depenent del que hagi succeït abans.

Imaginem un bot que té la regla de no repetir la mateixa resposta més d’una vegada. Quan l’usuari ha dit «Bon dia» el bot ho recorda de manera que, si l’usuari digués un altre cop «Bon dia», en el seu nou estat intern el bot diria alguna cosa diferent, potser bromista, del tipus «Caram! Sí que t’agrada dir “Bon dia”».

Agència basada en fites

A més d’un model i d’uns estats interns variables, el sistema disposa d’una sèrie de fites i objectius a assolir, que faran que s’activin regles diferents del model en funció de quins objectius es busquin amb la interacció de l’usuari.

El nostre bot ja és un dispositiu força complex, que no es pot limitar a regles predefinides, sinó que comença a tenir una mica d’«intel·ligència» i disposa d’algun sistema deductiu que permeti decidir quines regles s’han d’activar en funció de quines fites siguin més importants. També pot decidir canviar de fita en funció de si hi ha canvis rellevants en l’entorn.

El software que acompanya a un d’aquests robots autònoms que es passegen per la superfície de Mart és d’aquest estil. El robot té una sèrie de fites incloses pels científics que l’han desenvolupat i en funció d’on es trobi, quines condicions climàtiques hi hagi a Mart, quines siguin les prerrogatives de la missió, etc., el sistema recomanarà un curs d’acció o un altre.

Agència basada en utilitats

Es tracta bàsicament de millorar l’anàlisi de fites de l’agent incloent també unes utilitats (en el sentit de l’economia) per mesurar el grau d’efectivitat. El sistema té així un feedback numèric del tipus: «L’objectiu s’ha acomplert en un 75 %». Aquest número pot ser útil per a l’usuari de l’agent, per saber com de prop és dels seus objectius. Però també el pot utilitzar internament el software per decidir si ho està fent bé, o si ha de revisar les seves fites i els seus objectius en funció de com evolucionen les dades numèriques.

Imaginem-nos un bot que inverteix a la borsa per nosaltres. Podem incloure un criteri d’utilitat que mesuri els beneficis i els costs d’una operació, i que decideixi aturar una inversió i avisar-nos si el nivell de pèrdues és superior al 2 %, per exemple.

Agència basada en l’aprenentatge

Parlem aquí de veritable intel·ligència artificial. Sistemes que prenen decisions i aprenen d’elles, per millorar el seu criteri. Entrem així en entorns d’aprenentatge automàtic, on un chatbot aprendria de manera autònoma tot analitzant estadísticament converses reals entre persones i que, un cop en marxa, també aniria aprenent de les interaccions amb els usuaris i millorant progressivament el seu algoritme.

Com afecta el disseny

Qualsevol projecte de disseny d’interacció ha d’estar pensat des de la idea d’agència. A l’hora de dissenyar un projecte interactiu, hem de pensar en l’agència des de les dues perspectives apuntades en formes d’aplicació. És a dir, considerar d’una banda una teoria de l’agència i de l’altra el tipus d’agent intel·ligent que hi ha al darrere del nostre sistema. O, dit d’una altra manera, hem de pensar en el tipus d’agències que interactuaran amb el nostre sistema, així com en l’agència interna del nostre propi sistema (tipus d’interacció).

Mitjançant una teoria de l’agència podem establir la cadena de connexions que s’establirà entre diferents agents, detectar possibles colls d’ampolla i possibles problemes, i realitzar el disseny de manera que aquests problemes i colls d’ampolla es minimitzin. Això és especialment important si dissenyem algun tipus de software corporatiu, ja que necessitem conèixer el grau d’agència que tindrà l’usuari: no té sentit desenvolupar un software pensat per a un càrrec concret en una empresa, si les decisions que ha de prendre no corresponen a aquella persona i les ha de delegar en un tercer.

De la mateixa manera, encara que no siguem cracks de la intel·ligència artificial, hem de pensar en el tipus d’interacció que ens proposem crear, tenir un model del tipus de coses que esperem que el sistema pugui decidir, com actuarà el nostre sistema, és a dir, quina és la seva agència.

Fer aquesta pregunta bàsica és el que permetrà entendre la majoria de les qüestions que sorgeixin en el procés de disseny. Per exemple, imaginem-nos que el nostre sistema tindrà accés a les dades personals de l’usuari per generar la resposta esperada. Preguntar-nos pel tipus d’agència disponible amb aquestes dades ens permetrà desenvolupar un sistema amb garanties que eviti un abús de la nostra capacitat d’accés que erosioni la privacitat de l’usuari.

Així mateix, quan ens preguntem pel tipus de persuasió que volem generar en l’usuari, caldrà que establim el tipus d’agència que donarem al sistema, tot analitzant el tipus de respostes que generarà el sistema, com les argumentarà i el grau de llibertat que el sistema donarà a l’usuari.

Per exemple, imaginem-nos un sistema de recomanació automàtic per decidir el millor candidat a ocupar un càrrec en una empresa. El sistema analitza sistemàticament els CV dels diferents interessats i interessades i fa una recomanació a partir d’aquestes dades. No és el mateix un sistema que simplement doni una puntuació i digui que Lev Manovich és el millor candidat amb una puntuació de 89 sobre 100, que un sistema que informi dels quatre elements més significatius del CV de set candidats que siguin els més viables. En el primer cas, tota l’agència estarà a les mans del sistema i l’usuari només podrà acceptar o no la recomanació del sistema. En canvi, en el segon sistema, l’agència serà compartida: el sistema simplement oferirà un seguit de criteris, que després l’usuari tindrà en compte, i altres criteris que consideri per prendre la decisió final.

Com afecta la interacció amb l’usuari

Pensar en diferents tipus d’agència quan desenvolupem un disseny d’interacció transforma radicalment la manera com l’usuari rebrà i interactuarà amb el nostre projecte. En comptes de pensar en un simple usuari-tipus i reutilitzar els típics recursos enllaunats que veiem utilitzats ad nauseam en tota mena de sistemes interactius, val la pena pensar en l’agència real de diferents tipus d’usuaris en funció del seu context, les seves habilitats i la seva formació.

Pensem un moment en la discapacitat. Quan decidim que els enllaços de la nostra pàgina web no estaran subratllats, sinó que seran només de color verd, estem suposant implícitament que tots els usuaris als quals ens dirigim tenen una agència sobre el color, és a dir, que el poden percebre i actuar a partir d’aquesta informació. Tanmateix, no és cert: hi ha persones amb ceguesa de color que no sabran com reconèixer el color verd i, per tant, no podran exercir agència sobre els enllaços de la nostra pàgina web.

Així mateix, un dispositiu pensat per a una mà estàndard deixarà fora moltes nenes i molts nens, així com un conjunt significatiu de persones que, per diversos motius, tenen les mans significativament més grans o més petites que la mà tipus.

De la mateixa manera, hem de reflexionar sobre el nivell socioeconòmic dels usuaris que utilitzaran el nostre producte interactiu. Sobre el paper, pensant en un usuari mitjà, ens pot semblar fantàstic crear una aplicació educativa amb el suport d’un sistema de videoconferència perquè els estudiants puguin preguntar a la professora o parlar entre si. Tanmateix, un sistema així pot ser problemàtic per a persones de rendes baixes, que no puguin pagar una connexió a Internet d’alta capacitat i velocitat, o bé que es trobin en zones remotes on l’accés a dades segueixi essent molt lent i bàsic, per manca de bona cobertura.

Els canvis subtils en el disseny d’un sistema poden generar canvis importants en l’agència de l’usuari, i així transformar completament els usos i les implicacions d’un producte interactiu.

Pensem un moment en Twitter. Fa uns anys, Twitter permetia reenviar missatges de tercers (que col·loquialment anomenem retuits), però no es podien fer comentaris. Un usuari simplement reenviava el missatge tal com estava. L’agència de fer un retuit implicava implícitament que l’usuari estava d’acord amb allò que enviava, que ho trobava interessant.

Més endavant, Twitter va decidir canviar el sistema de retuits tot incloent la capacitat de reenviar amb comentari i Twitter es va transformar radicalment. Aquesta xarxa social digital de sobte es va convertir en un lloc molt més inhòspit, ple de trolls i de batalles entre usuaris. La possibilitat de retuitar amb comentari permetia fer escarni públic d’aquells tuits que ens semblaven incorrectes. Sorgeix així un nou tipus d’usuari: el troll que segueix totes aquelles persones que odia, a l’espera que diguin alguna cosa incorrecta o que es pugui sotmetre a burla, i retuitar-la amb tota mena de comentaris feridors i sarcàstics.

I d’aquesta pràctica bàsica n’ha sorgit una altra d’encara més insidiosa, la recerca del retuit a través de la indignació. Aquesta tècnica d’enginyeria social consisteix a fer un tuit totalment agressiu, boig i insultant per a alguna comunitat, amb l’esperança que els seus membres el reenviïn, indignats. Allò que l’usuari indignat comenti en el retuit és indiferent, perquè el que busca l’autor del tuit agressiu original és la màxima difusió.

Diversos tipus d’usuaris s’apunten a aquesta mena d’activitat. Poden ser simplement usuaris obsessius i pagats de si mateixos, que busquen poder presumir que tenen 12.000 retuits, però també poden ser organismes amb una estratègia ben planificada: els partits d’extrema dreta a Europa utilitzen sistemàticament aquesta estratègia, tot generant tuits insultants sobre dones, grups ètnics, progressistes, etc., esperant que reenviin el tuit de manera indignanda i aconseguint arribar així a un públic al qual normalment no tenen accés.

És interessant de veure com tota aquesta transformació, que ha tingut el 2020 totalment bojos els gestors de Twitter i els ha fet rebre crítiques per tots costats, ha estat el resultat d’oferir als usuaris una manera específica d’establir agència. Els petits canvis poden ser molt poderosos.

Pensar en agència és pensar en experiència d’usuari. L’experiència d’usuari requereix, com a condició necessària de la seva implementació, que pensem en tot moment en l’agència de l’usuari que realment utilitzarà el nostre sistema, així com l’agència que estem donant al nostre sistema.

Referències

Aguilar, J.; Bessembel, I.; Cerrada, M.; Hidrobo, F.; Narciso, F. (2008). «Una metodología para el Modelado de Sistemas de Ingeniería Orientado a Agentes. Inteligencia Artificial». Revista Iberoamericana de Inteligencia Artificial, vol. 12, núm. 38, pàg. 39-60.

Berbena, M. A. Z.; Figueiras, S. C. (2014). Fenomenología de agencia y educación. «Notas para el análisis del concepto de agencia humana y sus proyecciones en el ámbito educativo». Magister, vol. 26, núm. 2, pàg. 98-104.

Domingos, P. (2015). The master algorithm: How the quest for the ultimate learning machine will remake our world. Nova York, NY: Basic Books.

Hutchins, E. (1995). Cognition in the Wild. Cambridge, MA: MIT Press.

Peris-Ortiz, M.; Rueda Armengot, C.; Souza Rech, G. C. D.; Pérez Montiel, M. (2012). «Fundamentos de la teoría organizativa de agencia. Información Comercial Española (ICE)». Revista de Economía, núm. 865, pàg. 107-118.

Sangüesa, R.; Guersenzvaig, A. (2019). «La intel·ligència artificial com a material de disseny: treballar amb noves agències». Temes de Disseny, núm. 35, pàg. 6-25.