Entre la diversidad de versiones a favor, en contra, dubitativas o ignorantes del tema, la “inteligencia artificial” fue calificada como riesgosa para la vida humana.
Ocurre que un escrito que lleva el refrendo de unas 1300 personas relacionadas laboralmente con el rubro, manifestaron sus advertencias alegando que los gobiernos del mundo deben intervenir para generar protecciones ante un avance tecnológico preocupante.
Los firmantes consideran que dicho desarrollo puede colaborar con “Un futuro dramáticamente mejor, pero ese resultado no está garantizado pero ese resultado no está garantizado”. Hay “riesgo real de que el desarrollo de capacidades se acelere rápidamente más allá de nuestra capacidad para comprender o controlar los sistemas resultantes”.
Quienes argumentan estos conceptos tiene relación de dependencia con empresas especialidades en la llamada “IA” tales como Google DeepMind, OpenAI y Anthropic, y estiman que el desarrollo puede permitir una auto superación con alcance tal vez indefinido.
En este sentido refieren que “Es difícil predecir exactamente cuánto acelerará esto el progreso de la IA, pero hay un riesgo real de que el desarrollo de capacidades se acelere rápidamente más allá de nuestra capacidad para comprender o controlar los sistemas resultantes”.
“Cada empresa -y cada país- está bajo una intensa presión competitiva para no frenar unilateralmente esa aceleración. El mundo carece hoy de las herramientas técnicas y de gobernanza para frenar deliberadamente el progreso en el frente”.
Asimismo advierten que este tipo de “inteligencia” se torna incontrolable aunque “Tenemos métodos que pueden empujar a las IAs hacia un mejor comportamiento, pero nada que pueda alinearlas de manera robusta. En la medida en que hay un plan, es asegurarse de que las IAs sean lo suficientemente buenas en el entrenamiento de alineación para que puedan alinear a sus sucesoras mejor de lo que nosotros podemos alinear a las IAs actuales”.
En la solicitud destacan que el gobierno de los EEUU debe cumplir con un rol severo ante los riesgos referidos sumándose al ordenamiento internacional para evitar el descontrol y “Para aprovechar el potencial de la IA, la industria, el gobierno y la sociedad en general pueden necesitar la opción de ganar tiempo para abordar los riesgos emergentes, desarrollar medidas de seguridad y fortalecer la supervisión”.
La situación es más que preocupante y la decisión de Jacob Coxon, importante investigador de la empresa Anthropic; así lo demostró tras su decisión de renunciar a sus funciones ante el comprobado uso de la IA que calificara de “irresponsable”.
Coxon agrega sobre OpenAI y Anthropic que “ninguna de las dos compañías actúa de manera responsable” y que la competencia puede llegar a “matarnos a todos” en no más de una década.
El investigador aclara que no se trata de expresiones promocionales sino que “muchos ejecutivos e investigadores senior moderarán su lenguaje en la prensa para sonar sensatos, pero oigo a las mismas personas expresar miedo en privado. Ninguna otra actividad humana representa este nivel de peligro”.
