La futura IA: ¿un peligro para la humanidad?

 A raíz del hilo de Jacob Coxon donde explica su dimisión de Anthropic y de los peligros que supondrá una super Inteligencia Artificial y de la noticia sobre la supuesta "resolución" de un complejo problema matemático por parte de Chat GPT (y que ha suscitado una gran controversia debido a que esta resolución ha sido fruto de un plagio por parte de la aplicación a Buckmaster (acusando a ChatGPT y a Open AI de haber robado su trabajo de investigación) creo que convendría reflexionar y diferenciar entre la IA doméstica que utilizamos (Chat GPT, Gemini, etc.) con una "super IA" que se está haciendo desde los suburbios del poder y de las oligarquías tecnológicas.

Si bien es cierto que a IA doméstica tiene sus ventajas, desventajas y peligros, es cierto que estos últimos no son comparables con la "super IA" que se está desarrollando desde el sector tecnológico no sin la complicidad de los países más poderosos (de hecho podríamos estar contemplando una carrera tecnológica en el desarrollo de la IA entre China y EEUU). Esta "Super IA" en malas manos podría generar muchísimas catástrofes, e incluso acabar con la humanidad (tal y como plantea el ingeniero Jacob Coxon en su hilo en X). De hecho, esta IA ya está utilizando para guerras que se están llevando a cabo (no olvidemos de quién está en la Casa Blanca ahora mismo). 

Claro que la IA nos podría facilitar en algunas cosas cotidianas, pero solo si se queda en eso. Mientras tanto, esta misma semana hemos conocido los resultados educativos en el informe PISA (si bien es bastante cuestionable per sé porque no evalúa competencias que están relacionadas con el desarrollo social y personal del alumnado, ya que la educación no solo son conocimientos, es la formación INTEGRAL del alumnado), también hay que replantearse si se debería incluir una asignatura específica  donde se enseñe a utilizar de manera adecuada la IA o que en la programación de la asignatura de Tecnología y Robótica se incluya un apartado completo sobre la IA, las posibilidades que ofrece y los principios éticos para utilizarla. E incluso que la propia IA sea transversal en todas las asignaturas y que se cree una asignatura sobre los criterios éticos y cívicos de su utilización. 

En cuanto a su utilización en el ámbito de la investigación, sobre todo en las ciencias sociales, hay que plantearse las siguientes preguntas: ¿puede la IA sustituir el trabajo de campo? ¿ puede la IA recrear supuestos testimonios creíbles de personas que sean sujetos de la investigación para crear un paper que pueda ser publicable en una revista Q1 o Q2? ¿o son las revistas científicas de gran impacto las que deben replantearse si merece la pena mantener los criterios de publicación tan estrictos teniendo en cuenta que hay un riesgo importante de que la IA pueda publicar un artículo que afirme ser suyo?

Pienso que se le debería dar mucha más importancia a las Humanidades y a la Filosofía para poder responder a estas y a más cuestiones que afectan a la IA, porque si no lo hacemos será muy tarde para reaccionar. 

Merece la pena reflexionar sobre lo que está pasando en el sector de la IA