¿Frenamos la IA?
La inteligencia artificial está cada vez más presente en nuestro día a día, desde las aplicaciones que utilizamos para consultar información hasta las herramientas que nos ayudan a trabajar o estudiar. Algunas de las empresas que la desarrollan están proponiendo reducir el ritmo de sus avances, pues consideran que las medidas de seguridad necesitan más tiempo para adaptarse. Pero… ¿qué significa este freno y cómo puede afectarnos?
La propuesta de Dario Amodei, responsable de Anthropic, plantea avanzar con más precaución, incorporar evaluadores externos y buscar acuerdos entre empresas y Gobiernos. Esto no significa que vayamos a dejar de utilizar las aplicaciones actuales, sino dedicar más tiempo a comprobar la seguridad de los sistemas más avanzados.
Para entender este debate debemos tener en cuenta varios aspectos:
La seguridad es uno de los principales motivos de esta propuesta. Cuantas más tareas pueda realizar una IA por su cuenta, más importante será comprobar que respeta las instrucciones y los permisos que le damos. No tiene las mismas consecuencias equivocarse al recomendar una película que hacerlo al gestionar documentos personales o realizar una compra.
La supervisión debe ofrecer garantías. Las empresas conocen sus herramientas, pero también tienen intereses comerciales. Por ello es importante que los especialistas externos puedan revisar los sistemas con suficiente libertad y comunicar los problemas que encuentren. Debemos saber quién paga estas revisiones, qué información pueden consultar y qué medidas se tomarán si detectan riesgos.
En el trabajo, un avance más pausado podría darnos tiempo para aprender y adaptar nuestras tareas. Sin embargo, no evitaría que las empresas siguieran incorporando las herramientas que ya existen. Aprovecha las oportunidades de formación y familiarízate con estas aplicaciones, pues conocer sus posibilidades y sus limitaciones nos ayuda a utilizarlas mejor.
También debemos tener en cuenta cómo puede afectar a los pequeños negocios y a los usuarios. Si cumplir las nuevas exigencias resultara demasiado caro, algunas empresas podrían tener dificultades para competir. Esto podría reducir nuestras opciones, por lo que sería necesario establecer controles adecuados al riesgo de cada sistema.
Frenar los avances también podría retrasar herramientas útiles para la educación, la accesibilidad o la investigación. Por ello conviene concretar qué desarrollos necesitan más comprobaciones y cómo se aprovechará ese tiempo para mejorar su seguridad.
La coordinación internacional es otra dificultad. Para que un freno compartido funcione, las empresas y los países participantes deben cumplir compromisos que puedan comprobarse. La competencia entre ellos complica estos acuerdos.
Mientras este debate continúa, utiliza la inteligencia artificial con criterio. Comprueba la información importante antes de darla por válida, evita compartir datos sensibles sin conocer cómo se tratarán y revisa los permisos que concedes a cada aplicación.
Recuerda que una herramienta más potente necesita controles adecuados. Como usuarios debemos poder entender qué hace con nuestra información, conocer sus límites y saber a quién acudir cuando se produce un problema.