7.2 L'Etica en la Sostenibilitat

En primer lloc, intentem justificar que és necessari parlar d’Ètica a l’alumnat d’una Universitat Politècnica. Establert això, recuperarem les definicions de què és la Ciència, la tècnica, la tecnologia i sobretot què és l'Enginyeria, per tenir molt present l’objectiu social d’aquesta. 

 

Això ens porta a les possibles raons per comportar-nos de forma ètica, o, dit de forma més planera, per no tractar malament a les altres persones. També intentarem trobar el  possible origen d’aquestes raons.

 

Per il·lustrar-ho plantegem un model model senzill però molt ample i flexible, el que anomenem Joc de la Cooperació i l’Engany. Això és part del punt de vista d’enginyeria, podem quantificar beneficis i la raó de l’aparició de comportaments cooperatius (o predatoris). Això ens porta també a la necessitat de negociació i la possibilitat d’enviar missatges, fiables i no fiables. Un dels principals aprenentatges és que no oblidem que les persones només actuem de forma racional excepcionalment, la majoria de les nostres accions són bàsicament sentimentals, instintives.

 

Però el següent apartat justifica com els valors humans (que agrupem en empàtics, cooperatius i cientificotècnics) funcionen, tenen conseqüències materials positives mesurables i poden realimentar-se en negatiu o positiu.

 

Acabem el tema remarcant com d’important ha de ser incorporar l'Ètica a les Intel·ligències Artificials.

2. És necessari parlar d’Ètica a l’alumnat d’una Universitat Politècnica?

Donem un cop d’ull a aquestes persones i revisem el seus estudis:

       

Fig 7.2.1 Terroristes islàmics enginyers. Font de les imatges: Wikipedia

Osama bin Laden era enginyer civil. Dels 25 segrestadors d’avions del 11-S, 8 eren enginyers (el cap del comando, Mohamed Atta, era enginyer mecànic). Khalid Sheikh Mohamed (encara a Guantánamo, suposat cervell) és graduat en enginyeria i màster en arquitectura. També l’últim atemptat fallit a Nova York (1 de maig de 2010) el va cometre Faisal Shazad (va confessar i compleix cadena perpètua), graduat en enginyeria i màster en administració d’empreses. 

 

Els terroristes de Hamàs s'anomenen “Estudiants de l'Enginyer” en honor a Yahya Ayyash, graduat en enginyeria elèctrica i inventor de les bombes suïcides (hi va haver 90 víctimes sota les seves ordres), i ell també assassinat amb tecnologia (telèfon mòbil amb explosiu) pel Mosad, el servei secret d'Israel. Finalment, Anwar al-Awlaki, graduat en enginyeria civil, va tenir el dubtós honor de ser el primer ciutadà americà assassinat públicament per la CIA, amb un dron, sense judici (va passar al 2011 però l’assassinat ja va ser autoritzat pel premi Nobel de la pau Obama al 2010). Estava acusat de ser l'imam inspirador i guia espiritual dels autors del 11-S i de Faisal Shazad.

 

Tenim també exemples de polítics enginyers molt poc democràtics, el més famós el president xinès Xi Jinping, enginyer químic, i recentment hi havia l’ara expresident d’Iran Mahmud Ahmadinejad, enginyer civil. Entre 2007 i 2012, 6 dels 7 màxims dirigents xinesos eren enginyers.

 

Si anem a les dades, més del 60% dels terroristes islàmics nascuts o educats al “món occidental” són enginyers (la qual cosa no vol dir que els enginyers musulmans tinguin una alta probabilitat de ser terroristes, les probabilitats no són bidireccionals). L’altre únic tipus de terroristes on hi ha una representació significativa d’enginyers és entre els dirigents d’alguns grups d’extrem dreta dels EUA.

 

La primera explicació que tothom pensa és que els enginyers tenen facilitat per construir bombes, però això no és cert. Ni hi tenen familiaritat (excepte els de Mines en el nostre entorn) ni calen coneixements per sobre de l’educació secundària per fabricar-les. Si anem a les dades, estadísticament s’ha vist que els enginyers (almenys els homes d’EUA) són significativament més religiosos i conservadors que altres científics, i també a les seves famílies hi ha probabilitat més alta d’autisme. És a dir, aquestes carreres poden atreure persones amb problemes socials però també atreuen membres d’elits que esperen reconeixement social i professional, quan no el troben al seu país continuen estudiant o treballant al món occidental, alguns hi troben aïllament i es refugien a la religió, fanatitzant-se de mica en mica. I nosaltres els ensenyem a canviar la societat amb mètodes físics i simples? Sembla que sí que caldrà parlar-hi d’ètica i valors.

[Tornar a la part superior]

3. Ciència i Enginyeria

Si consultem a qualsevol diccionari la definició de “ciència” podem trobar respostes incompletes i fins i tot equivocades, per exemple: “Conjunt de coneixements obtinguts mitjançant l'observació i el raonament, sistemàticament estructurats i dels que es dedueixen (?) principis i lleis generals”. La ciència no dedueix, que seria passar del general al particular, sinó que intentar induir, passar de les observacions a principis generals, i per tant sempre els resultats són provisionals i subjectes a l’aparició d’un cas mai abans considerat, un “cigne negre”. Per tant, una millor definició seria: “El conjunt de coneixements PROVISIONALS adquirits aplicant un mètode particular, l’anomenat científic”. I  què és el mètode científic? El que es basa en la recerca de la màxima objectivitat possible (mai completa, tant per motius físics com per motius psicològics), la màxima compressió (i comprensió) possible i la refutabilitat experimental.

 

Així qualsevol idea és una hipòtesi, i si repetits experiments no proven que es falsa, passem a anomenar-la teoria científica però sempre serà útil provisionalment per fer prediccions, en qualsevol moment un nou experiment podrà provar que era falsa, mai no podrà provar que és certa. I malgrat tot, avancem: dir que la Terra és plana és un error important, dir que és perfectament esfèrica és un error força més petit.

 

Què és la tècnica? Ara els diccionaris habituals són molt més rigorosos:  El conjunt de coneixements, procediments i recursos d’una ciència o art. Sobre aquesta definició, la de ta tecnologia hi afegeix a més un vocabulari propi. I a enginyeria parlem molt de la “tecnologia disponible” de forma més restringida: el conjunt ja existent de dispositius disponibles o el de construcció factible actualment, tot combinant d’altres ja existents.

 

La definició als diccionaris d’enginyeria no és errònia però és molt incompleta: “conjunt de coneixements i tècniques que permeten aplicar el saber científic a la utilització de la matèria i de les fonts d'energia”. Quin és l’objectiu de fer-ho? Volem construir sistemes que resolguin problemes percebuts per la societat, i seran problemes mal especificats perquè sols existeix una idea molt general dels objectius desitjats i dels criteris per avaluar-los. Podem intentar millorar aquest indefinició i guiar la construcció de sistemes que els resolguin amb el Cicle Clàssic de l’Enginyeria (amb anàlisi i síntesi), però si la complexitat del problema és massa gran haurem de passar al Cicle Evolutiu de l’Enginyeria (amb solucions parcials que es poden copiar i adaptar per fer-les créixer, evolucionar).

 

I com enfocaríem des d’un punt de vista pràctic la motivació de no tractar malament les altres persones?

[Tornar a la part superior]

4. Raons per no perjudicar als altres

Probablement podem reduir aquestes raons a 5:

 

• Existència d'un sistema jurídic que ens castigaria
• Sentiment religiós que ens sotmet a les forces benèfiques, amb sensació de premi i càstig
• Educació, ens han ensenyat a actuar així
• Un acte injust es tornarà contra nosaltres en el futur?
• Evolució de sentiments “humans” (empatia) innats per selecció natural

 

De totes aquestes raons, les tres primeres estan molt vinculades a una societat complexa, però recordem a més que l'educació pot ser perversa. D’altra banda l’evolució del sistema jurídic ha seguit un procés de despersonalització de la mediació: des de parents i amics en les bandes nòmades (99% de la nostra història), a ancians respectats com a mediadors (en els primers pobles sedentaris) i finalment a jutges professionals (en les ciutats), tot per eliminar venjances (nascudes precisament de la reciprocitat). Les lleis jurídiques evolucionen lentament, però les religioses neguen qualsevol evolució, i per tant normes útils com ara tenir molts fills, no matar vaques o no menjar porc, sorgides en un determinat ecosistema natural i social i molt ben adaptades a ell,  es segueixen aplicant en entorns on ja són absurdes.

 

La reciprocitat és una explicació senzilla, anterior a qualsevol societat, però no seria suficient per explicar el nostre comportament ètic, i com hem comentat dóna lloc a espirals creixents de venjances. Finalment, la selecció natural, en la seva doble vessant de reproducció i supervivència pot completar les raons: tornem a les bandes nòmades de caçadors i recol·lectors on pràcticament sempre hem viscut i evolucionat. Una sola persona valent i generosa morirà aviat protegint la banda i no deixarà ni descendents ni imitadors, però un grup en el qual els individus (uns quants) són donats a la cooperació té més probabilitats de sobreviure que un altre d'egoistes, i a més la generositat, valentia, amabilitat i sinceritat són atractives sexualment, per tant hi haurà còpia genètica i també cultural d’aquests comportaments, que precisament associem amb “valors humans”.  Aquests neixen de l’empatia, de sentir part del que senten els altres.

 

Presentem ara un model molt senzill d’interaccions humanes vàlid tant per a les bandes de caçadors i recol·lectors com per a la complexitat de la nostra societat. Com pot evolucionar aquesta cooperació?

[Tornar a la part superior]

5. El joc de la Cooperació i l’Engany

Tenim per començar només dues persones jugant però és fàcilment ampliable a dos grups. Així dos jugadors i només dues possibles accions o moviments: o intentar Cooperar amb l’altra persona (grup) o intentar enganyar-los i explotar-los (per raons històriques les lletres utilitzades són C per Cooperar però D per Enganyar, o Desertar).

Punts (A, B)	B Coopera	B Enganya (Deserta)
A Coopera	(3, 3)	(0, 5)
A Enganya (Deserta)	(5, 0)	(1,1)

És evident que si juguem una sola vegada, la millor estratègia és Desertar (si nosaltres som A i B coopera escollim entre 3 i 5 punts, però si B ens intentar enganyar escollim entre 0 o almenys 1 punt. Per tant hauríem d’intentar enganyar i explotar tothom?

 

Què li falta a aquest joc per ser una metàfora vàlida de la realitat? Les repeticions i els testimonis, la reputació. Si vivim en grup (gairebé) mai no interaccionem una sola vegada i sense testimonis amb una altra persona. Pensem en els treballs en grup a la Universitat, hi haurà una reputació dient quines persones hi posen més o menys esforç.

 

Amb repeticions si juguem per exemple 3 vegades i la primera anem a enganyar, com a màxim obtindre (5, 0) però les dues jugades restants, amb enorme probabilitat, seran (1, 1), per tant un total de (7, 3) quan era fàcil arribar a 9 punts per a cadascú. Si pensem com a caçadors i recol·lectors l’estratègia escollida ens dóna menys menjar. I quantes més repeticions més diferència en contra. 

 

Malgrat tot no caiguem en el maniqueisme, ni cooperar sempre és bo per a la societat ni enganyar sempre és dolent, podem estar parlant de cooperació entre grups d’individus conspirant contra la societat. El joc pot representar tant dos caçadors tractant de caçar una gran peça, com dos delinqüents pensant a delatar al còmplice o dues companyies tractant de mantenir alts els preus. I tampoc no té perquè limitar-se a dos jugadors: el transport públic o el pagament d'impostos hi són igualment ben representats.

 

D’altra banda, la cooperació tampoc no és exclusiva dels humans, sembla una tendència natural: a les nostres cèl·lules hi ha mitocòndries que abans eren bacteris lliures, també tenim bacteris que ens ajuden als nostres intestins, i fins i tot animals tan agressius com taurons o cocodrils han après a controlar els seus instints i mantenir la boca oberta per cooperar amb altres animals que els netegen les dents.

 

Per tant en el nostre joc els beneficis a curt termini passen per Desertar, els beneficis a llarg termini per Cooperar, per tant cal negociar. I què és negociar? Potser cercar el màxim benefici o més aviat un benefici raonable per a les dues parts que asseguri tractes en el futur? A qui considerem millor comerciant?

 

Hi ha una regla bàsica, anomenada Regla d'Or a moltes cultures i religions: ”Tracta els altres com t'agradaria que et tractessin”, però és suficient? No garanteix la reciprocitat. Sent més pràctics, la màxima quantitat de punts la podem assolir només quan convencem els altres perquè cooperin. Com podem aconseguir-ho? Enviant missatges.

 

Però hi ha missatges certs i falsos, en les relacions humanes i en tota la Natura. Com distingir-los? És fiable el color d'una vespa? No perquè només té avantatges i algunes mosques han evolucionat per imitar-lo. Són fiables els salts d'exhibició d'una gasela davant un depredador? Sí, perquè només un animal fort i sà pot fer-los, i ho està pagant amb energia i un cert risc, És fiable que una empresa digui que construirà una nova factoria? Si no hi paga un preu i corre un risc, no.

 

Quins missatges es poden intercanviar en el joc de la Cooperació i la Deserció? Només el moviment que fem, i són força fiables perquè cada vegada que Cooperem renunciem a alguns punts a curt termini i ens arrisquem a ser enganyats. Cada vegada que Desertem el missatge és “vull treure’t punts” i ja ho estic fent.

 

Una trampa en aquest joc és imaginar que les persones som racionals (com erròniament diuen encara les teories econòmiques més acceptades). Pràcticament sempre som racionalitzadores, fem decisions sentimentals i les justifiquem després.

 

Assumir que som racionals ens pot portar al desastre. Per exemple: sabem que l’estratègia òptima amb una única jugada és Desertar, però també sabem que la resposta racional és Desertar si ens han Desertat abans. Per tant, és racional no Desertar quan comencem una interacció, però imaginem que juguem a 100 moviments i ho sabem. De nou serà racional Desertar a la darrera jugada. Jo ho faré i l’altra persona també, perquè som racionals i ja no hi haurà mes jugades per reaccionar (mala elecció, ja hem perdut 2 punts). Però a més, si com a éssers racionals, ja està fixat que la jugada 100 serà (D, D) => (1, 1) a partir d’ara podem raonar què passarà amb la jugada 99, considerant que no afectarà la 100. El raonament és el mateix i es repetirà per a totes les jugades anteriors. Desastre.

 

Tenim un sentiment innat de justícia, equitat, greuge comparatiu o venjança. I sabem que és innat perquè també el tenen els micos. Aquest sentiment de vegades és bo per al grup (castiguem als aprofitats encara que també ho haguem de pagar) i de vegades dolent (deixem de col·laborar quan ens sentim ofesos i difícilment hi tornem). També tenim un sentiment innat (compartit per exemple amb els coloms) d’odi per l’aleatorietat i això ens porta a una certa neurosi intentant contínuament trobar pautes i eines de predicció encara que siguin falses i supersticioses. Però aquest caràcter també va ser seleccionat evolutivament perquè provoca més supervivència que la relaxació…

[Tornar a la part superior]

6. Valors humans i Etica

Ja hem parlat dels primers valors que definim precisament com a més humans, relacionats amb l’empatia (que totes les persones tenim excepte una molt petita minoria psicopàtica o sociopàtica, tenir-los ajuda a la supervivència del grup i són sexualment atractius, la qual cosa no implica que l'ocasional engany no doni beneficis, ni ajudi a mantenir varietat genètica):

 

• Empatia
• Generositat
• Valentia
• Amabilitat
• Sinceritat
• Alegria

 

Un segon grup està relacionat amb la cooperació i la compartició d’informació:

 

• Actitud oberta
• Honradesa
• Les abelles regulen millor la seva temperatura si totes tenen diferents sensibilitats a la calor i el fred. En general, si estem d'acord en l'objectiu i podem intercanviar informació, un grup divers, com més divers millor, actuarà millor que un grup més brillant però homogeni. Però si el nivell de diversitat passa aquest límit comencem els problemes.
• Flexibilitat
• Creativitat
• Equitat

 

I el tercer grup serien els basats directament en la ciència i l'enginyeria:

 

• Responsabilitat: els professionals de l'enginyeria són responsables dels seus projectes, els signen. Imagineu-vos que inventeu un motor de combustió amb 10% menys de consum i emissions, 50% menys de cost… només tindrà bons efectes? (les solucions exclusivament tècniques, les optimitzacions, NO SÓN SUFICIENT)
• Màxima objectivitat possible
• Brevetat
• Utilitat
• Comprovabilitat
• Comparabilitat
• Acceptació i oferiment de crítiques honestes i constructives
• Transparència
• Humilitat

 

I com podem preservar aquest valors en la nostra feina i en tota la nostra vida diària? Hi ha quatre enfocaments, estratègies ètiques principals i les seves combinacions (la quarta és menys important) per ajudar-nos aprendre decisions:

 

• Deontologia: Principis que no es poden transgredir. Cada vegada més professions tenen els seus propis codis, com una espècie de jurament (el més antic en actiu és en Medicina, el Jurament Hipocràtic) per part dels nous professionals, de l'estil “Em comprometo a no fer MAI… i a fer SEMPRE...” (això és el que defensava Kant al segle XVIII i Rawls al segle XX)

 

• Conseqüencialisme o utilitat: Enfocament contrari intentar preveure i avaluar les conseqüències de cada acció abans de decidir fer-la (Bentham i Mill als segles XVII i XIX, “màxima felicitat per a la màxima quantitat de gent”)

 

• Ètica de virtut o teleologia: Quin tipus de persona o de professional vull ser? Prendre aquesta decisió m’hi apropa o allunya? Quin és l’objectiu fonamental de les organitzacions? (Aristòtil, segle IV abans de Crist)

 

• Pertinència a una comunitat: Per història compartida (Macintyre, segle XX)

 

Hi ha més possibles classificacions de l’Ètica, com ara entre absoluta (les accions són sempre correctes o incorrectes sense tenir res en compte, molt similar a la deontològica, contra relativa (molt similar a la conseqüencialista, dins del relativisme hem d’intentar produir el màxim bé possible, però si cap bé en pot resultar intentarem provocar el menor mal). També podem distingir maximalisme (una acció només és ètica si tothom hauria de fer-la, de nou lligat a la deontologia i a Kant) i minimalisme (una acció només és no ètica si directament fa mal a algú, conseqüencialista).

 

Quin canvi hi introduiria la Sostenibilitat? Bàsicament hi introdueix la solidaritat també intergeneracional i una preocupació explícita pel medi ambient i la bona distribució de recursos, també a mitjà i llarg termini, però no és una idea rupturista, hem de considerar que part de les generacions futures ja estan convivint amb nosaltres, i per tant qualsevol ordenació ètica que escollim els començarà a afectar immediatament i portarà aquests efectes cap al futur.

 

És interessant consultar per exemple el codi deontològic de la major associació d’enginyeria (IEEE) i veure com destaquen els valors, especialment la responsabilitat davant dels companys de professió i de tota la societat, i demanen el compromís personal de SEMPRE respectar aquest codi. Òbviament ens pot semblar molt ingenu assumir que prometre respectar un codi implicarà comportar-se millor però podem demostrar amb dades que estadísticament sí que hi augmenta la probabilitat.

 

Sabem que els valors funcionen i per això l’evolució els ha preservat. Per exemple la honradesa és la política més senzilla i és molt efectiva. Veiem una gràfica de l’índex de corrupció percebuda (CPI, mesurada per Transparency International), i que bàsicament és una enquesta comptant quantes persones han hagut de pagar diners de manera irregular el darrer any, aquestes són les dades de 2022 i la puntuació és inversa a la corrupció:

Fig 7.2.2 Índex de Corrupció Percebuda 2022. Font: Transparency International

Fig 7.2.3 Mapa Índex de Corrupció Percebuda 2022. Font: Transparency International

I la correlació és molt clara tant amb la riquesa per càpita com amb l’Índex de Desenvolupament Humà: Llavors els països primer es fan rics i després honrats? O és a la inversa? Té mes sentit que la honradesa faciliti més els negocis i intercanvis:

 Fig 7.2.4 Mapa PIB per càpita 2022 (ajustat per paritat de compra). Font: Banc Mundial

 Fig 7.2.5 IDH publicat al 2022 (dades de 2021). Font: Alice Hunter, hdr.undp.org

 També hi ha correlacions més curioses, com ara la de desigualtat, coeficient Gini:

Fig 7.2.6 Coeficient Gini de desigualtat, 1992-2018. Font: Banc Mundial

Amb l’index d’homicidis:

Fig 7.2.7 Mapa d’homicidis intencionats per països, 2018. Font: UNDC

I finalment, cal notar que  tant els valors humans com la seva absència S'ENCOMANEN (es realimenten). (“The Spreading of Disorder”, Keizer, Lindenberg & Steg, Science, 2008). En experiments controlats en Groningen, Holanda, la presència de grafits («tags») va elevar la probabilitat de gent que llençava papers a terra de 33% a 69%. La sola presència de carros de supermercat sense retornar la va elevar de 30% a 58%. I de nou la presència de grafits «tags» va elevar la probabilitat de gent que ROBAVA diners (5 €) de 13% a 27% (la mera presència de papers a terra la va elevar de 13% a 25%).

7. Algunes activitats possibles

8. Reflexions Finals 

9. Per saber-ne més

• Joc en línia sºobre l’evolució de la cooperació: The Evolution of Trust (ncase.me)

 

• Curs de Harvard en obert sobre Justícia (Ètica): HarvardX: Justice | edX

 

• Jocs en línia del MIT sobre quin tipus d’Ètica aplicar a les màquines: Moral Machine

 

• Jocs filosòfics en línia: Philosophy Games - The Philosophers' Magazine (philosophersmag.com)

[Tornar a la part superior]

10. Referències

• Sandel, Justice: What is the right thing to do. Farrar, Straus and Giroux, setembre de 2019, ISN 9781429952682, 978-0374532505 e-book

 

• Villas, J. Camacho, Manual de ética aplicada en Inteligencia Artificial. Anaya multimedia, maig de 2022, ISN 8441545952, 978-8441545953

 

• Angulo, C. Veliz, Intel·ligència artificial i tecnoètica: 1 (Diàlegs UPCarts). Editorial UPC, abril de 2022, ISN 8419184047, 978-8419184047

[Tornar a la part superior]

11. Crèdits

Com s' ha de citar aquesta unitat?

Aguado J. L'Etica en la Sostenibilitat. A. Segalàs J. (ed.). Sostenibilitat i Enginyeria [en línia]. Universitat Politècnica de Catalunya. Institut de Recerca en Ciència i Tecnologies de la Sostenibilitat, 2024. [Consulta: dia mes any]. Disponible a: https://is.upc.edu/tecnoisost/ca/unitats/7-2-letica-en-la-sostenibilitat

El contingut d’aquesta unitat ha estat elaborat per:

     

[Tornar a la part superior]