La por que les màquines ens acabin prenent la feina no ha de treure’ns la son. És comprensible, però al llarg de la història ens hem enfrontat a canvis de tota mena. Potser qui ha de tenir un cert malestar és qui no és capaç de fer l’esforç d’adaptar-se. La IA no necessàriament substituirà les persones sinó determinades tasques que les persones fem dins de les nostres feines.
Un administratiu, per exemple, pot passar hores introduint dades, comparant documents o preparant informes. Una IA pot fer una bona part d’aquest treball molt més ràpidament i sense cansar-se. Però això no significa necessàriament que l’administratiu deixi de ser necessari. El seu paper canvia. En lloc de dedicar la major part del temps a fabricar l’informe, haurà de comprovar les dades, detectar errors, valorar si les conclusions tenen sentit i donar-ne el vistiplau.
El mateix pot passar amb periodistes, advocats, programadors, científics, arquitectes o traductors. La màquina pot preparar una primera versió, buscar informació o detectar patrons, però algú amb coneixement haurà de supervisar el resultat. I seria bo que no perdéssim mai aquest paper supervisor.
Ens obligarà a aprendre una nova manera de treballar. No serà tan important saber fer manualment totes les tasques com saber què pot fer una IA, quines limitacions té i, sobretot, quan no ens n’hem de fiar.
Una IA pot produir un text impecable i estar equivocada. També pot escriure un programa que funciona i contenir errors. Pot analitzar milions de dades i arribar a una conclusió basada en informació esbiaixada. La competència del futur serà saber supervisar-la.
Una cosa és consultar una IA i una altra donar-li accés als nostres arxius, als nostres programes, al correu electrònic o a Internet i permetre-li actuar directament sobre aquests sistemes. Per a mi, aquest és l’error. Si li donem permisos per actuar en el nostre nom, els errors poden ser desastrosos. És aquí on crec que caldria extremar la prudència.
També hauríem de pensar molt seriosament en les dades amb què estem construint aquestes intel·ligències. Internet conté una part extraordinària del coneixement humà, però també conté mentides, propaganda, prejudicis, manipulacions i fantasies.
Cada vegada hi ha més contingut generat per les mateixes IA i associacions entre elles. Si les futures intel·ligències s’alimenten indiscriminadament de contingut produït per altres intel·ligències, podem acabar deformant les dades i perdent el contacte amb les fonts originals.
El col·lapse de models ja s’ha donat. És un cas on les IA es degraden progressivament perquè són alimentades constantment amb dades sintètiques, generades per altres IA. És com si féssim fotocòpies successives d’una imatge. Fotocòpia de fotocòpia, finalment es perd la primera imatge.
Què passarà amb el coneixement i la història de la humanitat si deixem de conservar-los en formats que puguem controlar nosaltres mateixos?
Durant segles hem acumulat llibres, documents, fotografies, mapes, manuscrits i tota mena d’objectes que constitueixen la nostra memòria. Ara estem traslladant una part cada vegada més gran d’aquest saber al món digital i al núvol. És extraordinàriament pràctic, però també ens crea una dependència que pot arribar a ser perillosa.
Un llibre físic pot ser amagat, cremat o destruït, però també pot sobreviure centenars d’anys sense necessitat que cap servidor continuï funcionant. Una informació que només existeixi en un sistema digital depèn, en canvi, de l’accés a aquell sistema i de la integritat de les dades.
Sí, sabem que la història sempre ha estat manipulada pels qui han tingut el poder. Qui guanya una guerra, escriu els llibres de text. Els conqueridors sempre han esborrat, canviat o exagerat els fets per justificar el que van fer. S’han destruït documents, censurat llibres, reescrit relats i imposat versions oficials dels fets molt abans que existissin els ordinadors. Els romans van escriure de nou la història de les ciutats conquerides, com els espanyols van descriure els indígenes americans com a salvatges per justificar la intrusió i tenim ben a prop la dictadura que va canviar noms de carrers, tancar escoles i crear culpables per poder-los perseguir.
La diferència és que la tecnologia digital pot fer que aquesta manipulació sigui molt més ràpida, global i difícil de detectar. Imagineu que a temps real mentre es cometen actes de guerra en un país, el que arribi als medis sigui una imatge de pau i festivitat? Ja està passant. Per això els corresponsals sempre seran necessaris!
Per això cal preservar els llibres. Digitalitzar-los no hauria de significar destruir-los. Posar el coneixement al núvol no hauria de significar deixar de conservar-ne còpies independents. I no deixar mai que la IA es converteixi en l’única intermediària entre nosaltres i el coneixement.
No sé si algun dia haurem d’apagar determinades intel·ligències artificials. Potser algunes hauran de ser retirades, restringides o substituïdes per sistemes més segurs. Jo voldria continuar utilitzant-la. Voldria continuar conversant amb ella, aprendre, crear, investigar i fer coses que abans em requerien molt més temps. Però també voldria que el coneixement original continués existint, que els humans conservéssim la capacitat de comprovar les fonts i que cap màquina tingués l’última paraula.
Perquè potser el veritable perill de la intel·ligència artificial no és que les màquines acabin pensant com nosaltres, sinó que nosaltres deixem de pensar i cedim aquest privilegi a les IA.
