Sara Cantó, coordinadora del Ciclo sobre Inteligencia Artificial abre la sesión Implicaciones Sociales y de Cumplimiento en el Ateneo de Madrid, el 15 de abril. La Jornada está impulsada por la sección de Ciencias Jurídicas y Políticas y la Agrupación de Justicia y Cultura. José de la Peña Aznar, moderador, introduce unas líneas generales sobre lo que supone esta tecnología disruptiva, comparándola con la percepción de los comienzos de Internet y da paso a los ponentes.
En primer lugar a Alain Casanovas (KPMG y Asociación Española de Compliance) analiza la regulación europea y de compliance. En segundo lugar, Antonio del Moral, magistrado del Tribunal Constitucional, centra su análisis en la intersección de la Justicia y la inteligencia artificial. En tercer lugar, José de la Peña da paso a la Dra. Olga Gil (Escuela de Gobierno UCM), que presenta una visión desde la teoría política, el poder y las implicaciones sociales de la inteligencia artificial.
¿QUE ES LA INTELIGENCIA ARTIFICIAL? UNA DEFINICION BASICA
Para los científicos de datos: grandes conjuntos de datos, complejos, su almacenamiento, gestión, análisis, visualización, tecnologías analíticas; nuevas posibilidades de negocio a partir de datos de sensores, datos web y redes sociales; capacidades analíticas mejoradas, inteligencia empresarial operativa, computación en la nube activos de información de gran volumen, alta velocidad; nuevas formas de procesamiento; conjuntos de datos con tamaños más allá de la capacidad del software común; herramientas para capturar, curar, gestionar; presentación de los resultados de la analítica.
Otros científicos de datos destacan que 1) a estas definiciones les falta mencionar el contexto. 2) Se basan una mitología: la creencia generalizada de que grandes conjuntos de datos ofrecen una forma superior de inteligencia y conocimiento que puede generar conocimientos que antes eran imposibles, con un aura de verdad, objetividad y precisión.
TEORIA POLITICA Y LA INTELIGENCIA ARTIFICIAL
En España, Manuel Marchena Gómez, magistrado del Tribunal Supremo señala que “la justicia se administra el nombre del rey por Jueces y Magistrados integrantes del Poder Judicial” (p. 54). Marchena señala además que “no puede considerarse que la inteligente selección de un precedente por si o interrelacionado con otros [por parte de la IA] pueda solucionar el desarrollo hermenéutico al que se enfrenta el juez.” “La respuesta a robótica será siempre una respuesta basada en la información estadística” (Marchena p. 54, y Asunción Gómez, académica de la RAE)
ESTADO DE DERECHO, DERECHOS HUMANOS, VALORES DEMOCRATICOS Y DIVERSIDAD
La OCDE, los treinta y seis países miembros junto con Argentina, Brasil, Colombia, Costa Rica, Perú y Rumanía suscriben en París los principios de la OCDE sobre la inteligencia artificial con cinco principios. Destaco el 2o: los sistemas de IA deben diseñarse de manera que respeten el Estado de Derecho, los derechos humanos, los valores democráticos y la diversidad.
EN RELACIÓN AL PODER
La inteligencia artificial no es artificial ni inteligente. No es artificial porque los datos no son abstractos ni inmateriales. Si la IA tiene sentido para la resolución de problemas sociales, es preciso que este elemento, resolución de problemas sociale, se incluya en la ecuación.
Es relevante analizar cómo se estructura el control y equilibrio de poderes en la polity y en sociedades. No es lo mismo hablar de China, que de Canadá o Estados Unidos, o la Unión Europea, o de Chile en relación con la regulación de la IA. En la actualidad trabajo en un libro con casos comparados: China, la Unión Europea y Estados Unidos, y su aproximación a la regulación de la IA.
LOS PREVIOS, LA PRESENTACIÓN Y EL DEBATE
La IA depende en gran medida del trabajo mal remunerado para hacer las clasificaciones precisas para construir ontologías. Asunción Gómez-Pérez (2024), ilustre académica de la RAE desde, e informática, nos alerta de que las ontologías actuales de las IA generativas no han sido controladas ni testadas.
La clasificación es poder a través de la construcción del conocimiento (no controlado, ni testado en la IA generativa): El proyecto universitario ImageNet, promovido por Prof. Fei-Fei Li en Princeton, tiene el objetivo de mapear el mundo entero de los objetos que se convierten en usuarios de Amazon Mechanical Turk. El enfoque para convertirse en un coloso del reconocimiento de objetos para el aprendizaje automático se produjo sin consentimiento, con el etiquetado por parte de trabajadores mal pagados como práctica estándar, e incluyendo categorías importadas de la base de datos léxica WorldNet que incluía etiquetas crueles, racistas y ofensivas, como alcohólico, hombre-mono, loco, puta y ojos rasgados. A través de la clasificación se consolidan patrones de desigualdad de distintas sociedades y personas de distintas edades y orígenes sociales. Estas clasificaciones, a su vez, limitan el acceso a recursos y oportunidades.
LA CLASIFICACIÓN DE DATOS ES ECONÓMICA Y POLÍTICA
Es una tecnología extractiva, basada en minerales raros y escasos, en alto consumo energético y chips producidos por sólo dos empresas en el mundo de Corea y Taiwan. Estos chips están limitados, han alcanzado el límite en tamaño nano.
Dra. Olga Gil
Investigo sobre regulación de la Tecnología desde 1992 y trabajo sobre inteligencia artificial desde 2018.
Escuela de Gobierno Complutense olgagil@ucm.es
He recibido mención internacional de IARIA por los trabajos sobre inteligencia artificial y teoría política, publicados en 2023. Soy investigadora del Instituto Complutense de Ciencias de la Administración (ICCA) y miembro del Consorcio del Center for Technology in Government (CGT) de la universidad de Albany (NY, Estados Unidos, 2015-2024). Investigo sobre regulación de la Tecnología desde 1992. Comienzo los trabajos sobre regulación de las telecomunicaciones en Estados Unidos en las Universidades de Chapel Hill y Duke (1992-1994), y continúo con el Prof. Colin Crouch, de Oxford College (1995-2000). En 2003 recibí el premio al mejor libro del año de la Asociación Española de Ciencia Política y de la Administración al libro Telecomunicaciones y Política en Estados Unidos y España (1875-2002): Construyendo Mercados.
Referencias
Kate Crawford, Atlas of AI–Book review| Atlas of AI, Yale University Press (2021)
Olga Gil 2024. Inteligencia Artificial: Gobernanza y Legitimidad, Revista de Privacidad Y Derecho Digital. Abril 2024. ISSN: 2444-5762. Embargo hasta su publicación.
_______ 2023. Governance and Legitimacy of Artificial Intelligence. International Journal On Advances in Software, volume 16, numbers 3 and 4, 2023 ISSN: 1942-2628. Open Access: https://www.thinkmind.org/index.php?view=article&articleid=soft_v16_n34_2023_7
_______ 2023. AI Philosophy: Sources of Legitimacy to Analyze Artificial Intelligence. The Sixth International Conference on Advances in Computer-Human Interactions (ICDS - ACHI 2013) IARIA, April 24-28, 2023 - Venice, Italy. 2023, ISSN: 2308-4138, ISBN: 978-1-61208-250-9, doi: 10.31219/osf.io/39njx.
_______ 2023. Philosophy and Public Administration in China and Western Countries. Intel Prop Rights.11:216. Open Access.https://www.walshmedicalmedia.com/open-access/philosophical-and-public-administration-in-china-and-western-countries-118353.html doi: 10.35248/2375-4516.23.11.216
Gomez- Pérez, Asunción. RAE. letra q. ELECCIÓN, 7 de abril de 2022. TOMA DE POSESIÓN, 21 de mayo de 2023. https://www.rae.es/academico/asuncion-gomez-perez.
_______________________ 2024. Discurso en el Acto de ingreso en la Real Academia Española de la Lengua (RAE)https://www.youtube.com/live/6PsiLqxqkjg?si=DEx-8FiCe_QLYRAV&t=710
