Los Ángeles, California, 14 de septiembre (AP).- Las nuevas advertencias dentro de la industria de la inteligencia artificial han revivido un debate de larga duración sobre si la IA avanzada podría escapar del control humano y, en última instancia, amenazar la supervivencia de la humanidad, y si las empresas que desarrollan la tecnología están haciendo lo suficiente para evitar tal escenario.
El CEO de Anthropic, la compañía de San Francisco detrás de Claude, dijo que pensaba que la industria necesitaba reducir la velocidad de su trabajo, advirtiendo el sábado que un enjambre de agentes de IA podría apoderarse de Internet en seis meses a un año a menos que las empresas dediquen más tiempo a poner en marcha salvaguardas.
Dario Amodei esbozó un plan para que empresas como el suyo y los gobiernos de todo el mundo garanticen que los modelos de IA cada vez más capaces permanezcan alineados con los mandatos y valores de las personas responsables días después de que dos ex investigadores de seguridad de Anthropic expresaran públicamente su preocupación de que las amenazas existenciales que la IA podría representar para la humanidad estuvieran recibiendo muy poca atención.
Sam Altman, CEO del fabricante de ChatGPT OpenAI, dijo este fin de semana que las empresas deberían comenzar a coordinar la seguridad de la IA sin esperar a que el gobierno introduzca la legislación. El “ritmo” del desarrollo de la IA no significa detenerse, escribió Altman en X. “Pero debería ser más lento de lo que podría ser de otra manera”.
Esto es lo que hay que saber sobre las terribles predicciones recientes y si se podría poner algún freno al avance de la IA.
Las preocupaciones sobre los riesgos potenciales de la tecnología están aumentando a medida que los nuevos modelos de IA se vuelven más poderosos, aumentando tanto el potencial de mal uso por parte de personas con objetivos criminales, como la creación y propagación de una enfermedad que mata a la mayoría de la población mundial, como el riesgo de que los sistemas de IA se vuelvan deshonestos de manera peligrosa.
