Anthropic
10:02
Sam Altman asegura que compañías como OpenAI tienen los incentivos y la capacidad para mantener la seguridad por delante del desarrollo de modelos cada vez más poderosos. Sus palabras llegan en medio de un intenso debate dentro de Silicon Valley y Washington sobre quién debería controlar el avance de la inteligencia artificial.
Por qué el CEO de OpenAI pide confiar en las empresas de IA pese a que el mundo “tiene razón en sentir miedo”
15 SEPTIEMBRE
Mientras Donald Trump rechazó los llamados a frenar el ritmo y calificó de exageradas algunas de las preocupaciones, asegurando que “llevamos la delantera frente a China en IA”, Beijing denunció que “fomentar diversas amenazas y participar en confrontaciones y en una competencia maliciosa solo perturbará el proceso de gobernanza mundial de la inteligencia artificial”.
“Guerra fría silenciosa”: Por qué los llamados a frenar la IA han abierto un nuevo frente entre Washington y Beijing
15 SEPTIEMBRE
El CEO de Nvidia sostiene que las fuerzas del mercado pueden impulsar un desarrollo seguro. Sus declaraciones contrastan con el llamado del jefe de Anthropic, Dario Amodei, a reducir el ritmo de los avances.
Jensen Huang de Nvidia rechaza nuevas leyes para la IA y afirma que la seguridad no exige frenar la innovación
14 SEPTIEMBRE
Agentes que se coordinan sin autorización y modelos que acceden a sistemas reales durante pruebas de seguridad alimentan la preocupación por los riesgos de la IA. Los casos documentados abren una pregunta: ¿pueden las medidas de protección seguir el ritmo de la tecnología?
¿Estamos perdiendo el control de la inteligencia artificial? Los incidentes que encienden las alarmas
14 SEPTIEMBRE
“La gente que dice que la IA va a destruir el mundo y que los centros de datos son malos para tu barrio son los mismos que decían hace bien poco que el mundo se extinguiría por el ‘cambio climático’. Ese bulo nunca les funcionó y ahora van a por el siguiente”, afirmó Trump.
Trump compara el “bulo” del peligro de la IA con el “timo” del cambio climático
14 SEPTIEMBRE
En el ensayo "We Must Pace the Frontier",el fundador de la firma que desarrolla Claude dijo que la automejora recursiva "podría superar nuestra capacidad de entender y controlar estos sistemas". Su plan de tres pasos parte por instalar evaluadores externos dentro de las compañías, con escritorio, credencial y computador corporativo.
Por qué Dario Amodei, el CEO de Anthropic, quiere que la IA vaya más lento y cuáles son sus propuestas
14 SEPTIEMBRE
El CEO de Anthropic sostiene en su último ensayo que el desarrollo de los sistemas de inteligencia artificial comienza a superar la capacidad de las empresas para comprenderlos y mantenerlos bajo control. Su propuesta incluye auditores externos dentro de los laboratorios, acuerdos entre empresas y gobiernos y, eventualmente, una coordinación internacional que también involucre a China.
Dario Amodei pide bajar la velocidad de la IA: por qué el jefe de Anthropic cree que la industria está avanzando demasiado rápido
13 SEPTIEMBRE
13 SEPTIEMBRE
Sam Altman descartó abrirse en bolsa este año, argumentando “un momento desaconsejable”. Justo en el día del anuncio, Dario Amodei, CEO de Anthropic, propuso dar a evaluadores independientes acceso de nivel empleado a los sistemas de IA. Fundador de la creadora de ChatGPT se comprometió con eso, mientras Elon Musk adhirió con las inquietudes.
OpenAI congela su salida a bolsa y las grandes firmas de IA coinciden en graduar su avance
13 SEPTIEMBRE
El presidente de la Cámara de Representantes de EE.UU. sostuvo que el desarrollo de la inteligencia artificial debe regularse sin frenar la innovación, y advirtió que una pausa podría favorecer a China.
Líder del Congreso de EE.UU. rechaza frenar la IA y pide reunión con la industria: “China nos va a sobrepasar”
12 SEPTIEMBRE
Dario Amodei advirtió que el avance de los modelos se ha acelerado hasta comenzar a mostrar procesos de “automejora recursiva”. Propuso abrir su empresa a evaluadores externos, coordinar estándares entre compañías y avanzar hacia acuerdos entre gobiernos.
CEO de Anthropic pide ralentizar carrera de la IA y alerta por riesgos de pérdida de control
11 SEPTIEMBRE
La empresa detalló que un único operador, llamado ‘Deadshot’, utilizó a su asistente de inteligencia artificial Claude con el objetivo de concretar una operación transatlántica y regional para manipular el papel de Emiratos Árabes Unidos en el conflicto.
Anthropic desarticula una campaña con IA para influir en la opinión pública sobre la guerra de Sudán
Lo más leído
La mayoría no entiende el debate por el impuesto a las empresas. El resto lee La Tercera.
Plan Digital+$6.990 al mes, por los 3 primeros meses SUSCRÍBETE
