Claude
14 SEPTIEMBRE
Agentes que se coordinan sin autorización y modelos que acceden a sistemas reales durante pruebas de seguridad alimentan la preocupación por los riesgos de la IA. Los casos documentados abren una pregunta: ¿pueden las medidas de protección seguir el ritmo de la tecnología?
¿Estamos perdiendo el control de la inteligencia artificial? Los incidentes que encienden las alarmas
14 SEPTIEMBRE
En el ensayo "We Must Pace the Frontier",el fundador de la firma que desarrolla Claude dijo que la automejora recursiva "podría superar nuestra capacidad de entender y controlar estos sistemas". Su plan de tres pasos parte por instalar evaluadores externos dentro de las compañías, con escritorio, credencial y computador corporativo.
Por qué Dario Amodei, el CEO de Anthropic, quiere que la IA vaya más lento y cuáles son sus propuestas
14 SEPTIEMBRE
El CEO de Anthropic sostiene en su último ensayo que el desarrollo de los sistemas de inteligencia artificial comienza a superar la capacidad de las empresas para comprenderlos y mantenerlos bajo control. Su propuesta incluye auditores externos dentro de los laboratorios, acuerdos entre empresas y gobiernos y, eventualmente, una coordinación internacional que también involucre a China.
Dario Amodei pide bajar la velocidad de la IA: por qué el jefe de Anthropic cree que la industria está avanzando demasiado rápido
13 SEPTIEMBRE
Sam Altman descartó abrirse en bolsa este año, argumentando “un momento desaconsejable”. Justo en el día del anuncio, Dario Amodei, CEO de Anthropic, propuso dar a evaluadores independientes acceso de nivel empleado a los sistemas de IA. Fundador de la creadora de ChatGPT se comprometió con eso, mientras Elon Musk adhirió con las inquietudes.
OpenAI congela su salida a bolsa y las grandes firmas de IA coinciden en graduar su avance
12 SEPTIEMBRE
Dario Amodei advirtió que el avance de los modelos se ha acelerado hasta comenzar a mostrar procesos de “automejora recursiva”. Propuso abrir su empresa a evaluadores externos, coordinar estándares entre compañías y avanzar hacia acuerdos entre gobiernos.
CEO de Anthropic pide ralentizar carrera de la IA y alerta por riesgos de pérdida de control
10 SEPTIEMBRE
Jacob Coxon, ex investigador de Anthropic y OpenAI, advirtió sobre los riesgos de la IA para la humanidad y cuestionó la carrera por desarrollar modelos cada vez más avanzados. Dos compañeros se sumaron.
“Podría acabar con todos nosotros”: las respuestas al investigador de Anthropic que renunció por temor a la IA
09 SEPTIEMBRE
La nueva marca de agua de Claude abre el debate sobre transparencia, productividad y criterio humano en el uso jurídico de la IA. Para esto conversaremos con Marco Antonio Orellana, Head of Legal y Chief of Staff en Lemontech.
Radar LT | Claude marcará sus respuestas: el uso de IA dejará huella en escritos judiciales
09 SEPTIEMBRE
Jacob Coxon, quien trabajó durante tres años en OpenAI y Anthropic, abandonó la compañía detrás de Claude tras advertir sobre los riesgos de desarrollar sistemas capaces de mejorarse a sí mismos. Un responsable de seguridad de Anthropic reconoció que la empresa aún no tiene resuelto cómo controlar una eventual superinteligencia.
Investigador de Anthropic renuncia y lanza una inquietante advertencia sobre el futuro de la inteligencia artificial
09 SEPTIEMBRE
Jacob Coxon sostuvo que ambas compañías corren “directo hacia una superinteligencia auto-mejorante”. Un líder del área de alineamiento de Anthropic respondió que ve más de 10% de probabilidad de que la IA mate a todos los humanos en la próxima década.
Investigador renuncia a Anthropic y acusa a la empresa y a OpenAI de “apostar con nuestras vidas”
10 AGOSTO
22 JUNIO
La principal amenaza de la inteligencia artificial no está en las máquinas, sino en quienes las utilizan. En su visita a Chile, el académico y asesor de León XIV en estas materias, alertó sobre la concentración de poder tecnológico y defendió una gobernanza democrática de la IA.
Paolo Benanti, el fraile asesor del Papa en inteligencia artificial: “Quienes controlan la IA pueden controlar gran parte de nuestras vidas”
31 MARZO
La herramienta de generación de video deslumbró al mundo creativo, pero internamente se convirtió en un costo insostenible. Según reveló The Wall Street Journal, la escasez de procesadores y el avance de rivales como Anthropic forzaron a la compañía de Sam Altman a priorizar el mercado empresarial.
El abrupto final de Sora: por qué OpenAI decidió apagar su producto más ambicioso desde ChatGPT
Lo más leído
5.
La mayoría no entiende el debate por el impuesto a las empresas. El resto lee La Tercera.
Plan Digital+$6.990 al mes, por los 3 primeros meses SUSCRÍBETE
