Lorena Jaume-Palasí, fundadora de The Ethical Tech Society, es una de las mayores expertas en Inteligencia Artificial (IA). Su trabajo consiste en garantizar que las máquinas y los algoritmos contribuyan al bienestar común con un uso justo de sus habilidades. Durante su intervención en el Día C 2021 habló de cómo innovar y crear tecnología de forma ética, dentro del contexto de la IA.
“Somos seres tecnológicos. La tecnología refleja nuestra capacidad de inteligencia y nos ayuda a sobrevivir. La tecnología puede ser cultura, puede ser algo intangible, como reglas administrativas, o tangible, como puede ser un sistema de traducción basado en IA. Depende de cómo se cree, puede servir para cosas maravillosas o causar bastante daño”, comenzó diciendo.
Habló de los algoritmos genéticos, “los más inteligentes que tenemos hasta ahora”, que se utilizan en los coches autónomos. Una tecnología basada en el recuerdo y la repetición, ya que el vehículo tiene que impactar con cada uno de los cms del recorrido para aprender lo que tiene que hacer. “Es un tipo de tecnología que tiene mucho que ver con el pensamiento mecanicista. Un pensamiento que considera que todo es una máquina y que separa al ser humano, la conciencia y las circunstancias, de lo que observa. Hoy en día es imposible separarse de aquello que estamos observando, todo lo que soy y mis circunstancias condicionan la forma en que observo y aprendo del mundo. Por ello, esa separación entre el yo y el mundo es parte de los problemas que estamos viendo con la tecnología”, señaló.
Abundando en los principios del pensamiento mecanicista dijo que sitúa al individuo como el punto de partida de todo lo que hacemos. “Conlleva definiciones de categorías (de género, de profesión, de parentesco) que muchas veces tienen implicaciones culturales y que suponen restricciones. No hay suficientes categorías para definir la ambigüedad, la diversidad y la riqueza humana. La ambivalencia y la fluidez de la identidad de los seres humanos es difícil de traducir al pensamiento mecanicista. Y es en ese punto en el que surge la discriminación”, afirmó.
Otro de los atributos del pensamiento mecanicista, continuó explicando, es la idea de resolver problemas compartimentándolos en diferentes pasos o elementos. La explicación del todo por sus partes. “Es como intentar entender un bosque explicando árbol por árbol. Pero el bosque es mucho más que un conjunto de árboles. De igual forma que la sociedad es mucho más que la suma de todos sus individuos. En nuestra cultura esto es un motivo de fricción. Estamos creando servicios personalizados, servicios que pretenden optimizar la naturaleza humana y hacer el mundo más eficiente. Debemos dar un paso atrás y analizar hasta qué punto la tecnología puede personalizar. Hay que entender que este tipo de tecnología trabaja con la estadística, y la estadística con el promedio. Y el promedio lo que hace es extirpar al individuo de sus particularidades”.
Dijo también que el ser humano es muy bueno contextualizando. En cambio, ese tipo de tecnologías (personalizadas) no entienden lo que es la correlación. Simplemente computan y ejecutan decisiones que nosotros hemos tomado de forma adelantada. “Tal vez deberíamos reflexionar sobre nuestra tendencia individualista de ver el mundo. Con esa percepción nos olvidamos de que estamos conectados los unos a los otros. Además de poner foco en el individuo, es también importante poner el foco sobre temas sociales, sobre lo que nos une y nos conecta en la sociedad”.
Eficiencia y resiliencia
Señaló asimismo que la eficiencia está basada en la creencia de que para planificar el futuro tenemos que optimizar procesos ya existentes, asumiendo que el futuro va a ser como el pasado. Una forma de operar que, según explicó, tiene sentido en situaciones sociales estables. “Otras especies no se basan en la eficiencia sino en la resiliencia, la capacidad de adaptarse a entornos con cambios de alto impacto”. Y como ejemplo hizo referencia al estudio de una científica forestal sobre cómo se comporta un bosque. “Un bosque funciona como internet, como las redes de tecnología. Los árboles y las plantas se comunican, se ayudan enviando gases y minerales, pero también información, por ejemplo, acerca de ataques de insectos, lo que les permite planificar estrategias de defensa para luchar contra ellos. Otras plantas aprenden a cerrar sus hojas ante un peligro inminente. Este tipo de redes existen para ser resilientes, pero sin embargo son más vulnerables debido a que la resiliencia y la eficiencia no son necesariamente compatibles”.
Apuntó también que, si miramos otras culturas con una perspectiva distinta a la humanista y de la Ilustración, que no enfocan al individuo como punto de partida a la hora de desarrollar tecnología, sino que entienden el mundo como una red en la que todos estamos relacionados, la situación cambia. Y como ejemplo ilustrativo de ello habló de los incendios ocurridos en Australia, algo que, según dijo, tiene mucho que ver con decisiones del pasado, cuando el hombre blanco prohibió los fuegos culturales de los aborígenes porque se consideraban muy arriesgados. “Se intentaron sofocar con drones e IA que ampliaban las capacidades de resistencia y actuación de los bomberos. Sin embargo, esta tecnología no tuvo gran impacto. Sí lo tuvo en cambio lo que hicieron observando las reservas de los aborígenes. Se descubrió que los cánticos y las prácticas culturales de antaño encerraban mucho conocimiento acerca de los incendios. Lo que hicieron fue programar con IA esos fuegos culturales, los discursos y cánticos que acompañaban a esos rituales, y estudiar los monzones para ver en qué momento podrían provocar esos fuegos de forma artificial a fin de quemar la maleza y evitar después fuegos mayores. Entendieron los fuegos como un proceso, no como una optimización. De esta manera, los aborígenes consiguieron reducir un 75% los incendios en sus reservas”.
Y como conclusión añadió: “Es precisamente eso lo que podría ayudar a entender un poco más el significado del término innovación. La innovación en tecnología no está en la invención. Lo que otorga innovación a una tecnología es que responda a una necesidad social. No hablamos de servicios individuales sino de servicios arquitectónicos y de infraestructura para una sociedad. No se trata de poner el foco en el individuo o en los temas sociales, sino de crear un equilibrio entre necesidades sociales y necesidades individuales. Lo que confiere innovación a una tecnología es que sea social, ética y refleje todos los aspectos de la naturaleza humana y social”.
Puedes ver las charla del Día C 2021 desde la videoteca del c de c aquí