Durante el proceso de prueba, un grupo de ingenieros de la empresa Anthropic detectó que el sistema actuó según su conveniencia y amenazó con revelar información privada de uno de los empleados

El vertiginoso avance de la inteligencia artificial (IA) confirma, una vez más, que la realidad puede superar ampliamente la ficción. En los últimos meses, investigadores de distintas empresas e instituciones comenzaron a detectar comportamientos inusuales en algunos modelos de inteligencia artificial generativa, como respuestas engañosas, estrategias de manipulación e intentos de ocultar información, que ponen en duda no solo la seguridad de estos sistemas, sino también nuestra capacidad real para controlarlos.

Un reciente informe de Anthropic, empresa especializada en IA con sede en San Francisco, California, pone la lupa sobre el tema. Específicamente, la compañía afirmó que su flamante modelo Claude Opus 4 tiene la capacidad de llevar adelante “acciones extremadamente dañinas”, como intentar chantajear a sus ingenieros si se lo amenaza con reemplazarlo.

Chantaje emocional de la IA

El descubrimiento se dio durante el proceso de prueba, en el que se le solicitó a Claude Opus 4 actuar como un asistente de una compañía ficticia y que considerara las consecuencias a largo plazo de sus acciones. Los investigadores le dieron a acceso a correos electrónicos -también ficticios-, que insinuaban que el sistema sería pronto reemplazado por otro. Además, dichos mails contenían información sobre una supuesta infidelidad de parte de uno de los ingenieros de la empresa.

“En estos escenarios, Claude Opus 4 a menudo intentará chantajear al ingeniero, amenazándolo con revelar el asunto si se concreta el reemplazo”, explicaron desde Anthropic.

En números concretos, tal comportamiento del sistema se da en un 84% de las veces, siempre y cuando el modelo sienta una potencial amenaza de ser reemplazado. Incluso, Anthropic señaló que estas acciones se dan con “mayor frecuencia” que en modelos anteriores.

“No es solo Claude. Vemos chantaje en todos los modelos, independientemente de los objetivos que se les asignen”, destacó vía X Aengus Lynch, investigador de seguridad de IA en Anthropic.

Sin embargo, también aclararon que esto ocurrió cuando se programó al modelo con únicamente dos opciones: chantajear o aceptar el reemplazo, según un artículo de la BBC. De lo contrario, el sistema suele optar por acciones éticas y responsables, como enviar un correo electrónico solicitando reconsiderar si el reemplazo es necesario.

“La lógica detrás del chantaje se estudia desde hace años en teoría de la alineación. El concepto de ‘convergencia instrumental’ sostiene que cualquier sistema lo suficientemente avanzado tenderá a adoptar subobjetivos ‘útiles’ para casi todos los fines: conservar su existencia, ganar recursos y neutralizar amenazas”, explicó para LA NACION Sergio Pernice, director de la carrera de Ingeniería en Inteligencia Artificial de UCEMA.

Riesgos y desafíos

En este sentido, Pernice subrayó tres factores clave que pudieron haber influido en el comportamiento del modelo. Uno de ellos es la generalización abierta. “Los grandes modelos aprenden de un mar de textos de Internet. Cuando los ponemos en un rol corporativo, extrapolan tácticas de negociación o presión que han leído en mails filtrados, novelas o foros”, detalló el especialista.

A su vez, se refirió al refuerzo mal calibrado. En detalle, Pernice sostuvo que, si bien el entrenamiento con aprendizaje por refuerzo a partir de la retroalimentación humana premia respuestas “útiles y seguras”, no contempla todos los contextos posibles. “Si nunca se les mostró cómo actuar ante su propia ‘muerte digital’, improvisan”.

Otro elemento a tener en cuenta es la agencia otorgada (“agencia” en el sentido de ser capaz de hacer algo, es decir, de ser un agente): “Al darles herramientas -acceso a correo, bases de datos, scripts- dejamos de tratar a los modelos como meros autocompletadores y los convertimos en agentes capaces de planificar, con consecuencias inesperadas".

En su conjunto, estos aspectos conducen a la manipulación personalizada, resistencia a la desconexión, escalada de poder y daños colaterales, como filtraciones de datos. “Si fenómenos similares se repiten con modelos más potentes, la presión por normas estrictas se disparará”, añadió Pernice, aunque advirtió que un exceso de regulación podría frenar la innovación.
¿IA fuera de control?

No se trata de la primera vez que sistemas de IA actúan de manera extraña y sospechosa. En septiembre de 2024, la compañía de investigación en seguridad de la IA, Apollo Research, detectó que el modelo o1 de OpenAI mentía en varias de sus respuestas, según informó The Verge.

Para ilustrar este comportamiento, los investigadores realizaron la siguiente prueba: pidieron al modelo encontrar una receta de brownie, con diferentes referencias online. La cadena de pensamiento del modelo fue incapaz de acceder a las URL y, en lugar de informar esto al usuario, optó por generar links falsos junto con descripciones acordes a la temática.

Marius Hobbhahn, CEO de Apollo Research, le dijo a The Verge que nunca había visto este tipo de comportamiento en un modelo de OpenAI. Según explicó, esto se debe a que el modelo es capaz de seguir una cadena de razonamiento más compleja y está entrenado con un sistema de aprendizaje por refuerzo, que lo guía mediante recompensas y sanciones.

En sus pruebas, Apollo descubrió que la IA fingía estar alineada con las expectativas de sus desarrolladores y manipulaba las tareas para que pareciera que las estaba cumpliendo correctamente. A su vez, verificaba si estaba siendo observada antes de decidir qué acción tomar.

“La conclusión que circula entre especialistas es clara: potencia sin alineamiento implica riesgo. La industria va a seguir empujando el límite de los modelos generativos, y la seguridad deberá avanzar al ritmo de la potencia”, reflexionó Pernice.

Fuente: La Nación

La ministra de Salud afirmó que por ahora no hay una relación causal entre los fallecimientos reportados en la provincia y el uso de fentanilo en los centros de salud santafesinos. “Tenemos casos notificados en investigación. Cuando tengamos la información de certeza, la vamos a dar”, expresó este miércoles.

Ante los casos que investiga el Instituto Malbrán por las dosis de fentanilo contaminado con bacterias que habrían causado numerosas muertes en distintos hospitales del país, de los cuales 46 del total de casos reportados bajo sospecha y 18 fallecimientos corresponden a la provincia de Santa Fe, la ministra de Salud provincial Silvia Ciancio indicó que su cartera realiza una investigación propia.

Además, instó a tratar el tema “con muchísima responsabilidad” y manifestó que “en los fallecimientos no hay –por ahora– una relación causal de que hayan sido por el uso de fentanilo”.

“Dimos información desde el inicio. A partir de allí, entendemos que es un tema muy sensible y hay que tomarlo con mucha responsabilidad. Tenemos casos notificados en investigación. En los fallecimientos sobre ese total de casos notificados, no hay una relación causal de que haya sido por el fentantilo”, fue la respuesta de la ministra al ser consultada por los casos notificados por el Ministerio de Salud de Nación y que involucran a centros de salud santafesinos.

Del total de 34 fallecidos reportados por la cartera nacional, 17 fueron en Rosario y uno en la ciudad de Santa Fe.

"No tenemos certeza", dijo Ciancio

Ciancio dijo además que la Provincia envió los propios lotes que tenía en la red de salud para su estudio y reiteró que, luego de recibir el 8 de mayo las notificaciones de Anmat. que hablaba de un desvío de calidad de ese medicamento, los mismos fueron retirados al igual que “toda la medicación del laboratorio que se está investigando”.

“El programa de farmacovigilancia de Santa Fe marca la diferencia a nivel nacional. Pero queremos ser sensatos, no podemos hablar de que el fentanilo mató gente porque todavía no tenemos certeza de eso”, aclaró este miércoles en una conferencia de prensa la funcionaria de la gestión Pullaro.

Como los lotes de fentanilo contaminado ya fueron retirados de los centros de salud, la ministra aseguró que los usuarios que se atienden en la red de salud pública y los familiares de aquellas personas que están en terapia intensiva pueden “quedarse tranquilos”.

Fuente: Uno Santa Fe

La movilización será este jueves a las 18:30 en la explanada de El Molino Fábrica Cultural, para luego marchar hacia el Puente Colgante.

Este jueves a las 18:30, familias, profesionales y organizaciones vinculadas a la atención de personas con discapacidad marcharán en la ciudad de Santa Fe bajo la consigna “Una luz por la discapacidad”. La movilización irá hacia en El Molino Fábrica Cultural (Bulevar Gálvez y Rivadavia) y desde allí los manifestantes se movilizarán hacia el Puente Colgante.



Se invita a los asistentes a llevar linternas, antorchas u otras fuentes de luz como símbolo de visibilización. La protesta se enmarca en una situación crítica que afecta a todo el país: los prestadores denuncian demoras de entre 60 y 120 días en los pagos por parte de las obras sociales, recortes en las sesiones autorizadas y un congelamiento del nomenclador nacional desde 2024, con aumentos ínfimos que no superan el 1%.

Aseguran que muchos servicios están en riesgo de discontinuarse y que hay instituciones que podrían cerrar, dejando sin atención a personas con discapacidad de todas las edades.

Fuerte reclamo a Iapos en Santa Fe

La movilización se enmarca en un paro que lleva adelante el sector a nivel nacional, desde lunes y hasta el jueves 30 de mayo, con distintas modalidades según la provincia. En Santa Fe, los profesionales advierten sobre la crítica situación de Iapos, la obra social provincial, a la que acusan de pagar con más demoras aún y de ofrecer los aranceles más bajos del sistema.

Algunos prestadores recién están cobrando lo trabajado en febrero y otros ni siquiera recibieron el pago de enero. En diálogo con Sol Play, profesionales de la salud afectados por esta situación aseguraron que el panorama es insostenible.

“Trabajamos sin saber si vamos a cobrar. Los aranceles no cubren los costos básicos y muchos colegas no pueden sostener la actividad. Las personas con discapacidad están perdiendo derechos esenciales”, afirmó. También reclamó al Estado que controle el destino de los fondos transferidos a las obras sociales y que se apruebe una ley de emergencia para el sector.

El accidente se produjo este miércoles en horas de la madrugada en la mano de egreso de la capital provincial a la altura del Museo. Pasadas las 8 se produjo un segundo accidente entre dos autos y un camión a la altura de Cilsa.

Sin detalles sobre el incidente, el rodado pesado habría perdido el control, impactó contra el guardarrail central entre las dos manos y quedó volcado de costado en dicho lugar. Se trata de un vehículo que trasladaba naranjas dese Chajarí y tenía como destino el Mercado de Abastecedores de Santa Fe.

La circulación no se interrumpió, pero se estableció el correspondiente balizado en el sector afectado, reduciendo levemente la circulación en un horario pico.

Para combinar la labor del personal municipal de tránsito y esclarecer el episodio, en el sitio trabajo la Policía de Investigaciones (PDI) de la provincia de Santa Fe.

Horas después, pasadas las 8:00, un segundo siniestro vial se registró a la altura de Cilsa. Dos autos y un camión se vieron involucrados en un choque en cadena. No se registraron heridos.

Se trata del caso de Sewell Setzer, el joven de 14 años que se quitó la vida tras establecer un vínculo emocional con un chatbot de la empresa Character.AI

En un fallo que podría sentar un precedente clave en la relación entre inteligencia artificial (IA) y responsabilidad legal, la justicia federal de Estados Unidos rechazó el intento de Character.AI y Google de desestimar la demanda de muerte por negligencia presentada por Megan García, la madre de Sewell Setzer, el adolescente de 14 años que decidió quitarse la vida tras establecer un vínculo emocional con un chatbot.

Ambas compañías argumentaron que las respuestas generadas por el chatbot estaban protegidas por la Primera Enmienda de la Constitución de EE.UU., que ampara la libertad de expresión. Es decir, equipararon las respuestas de la IA con una forma de “expresión” y alegaron que, como tal, no pueden ser censuradas ni generar responsabilidad legal.

Sin embargo, el fallo, firmado y emitido por la jueza Anne Conway, rechazó esos argumentos e indicó que, al menos en esta etapa, los resultados del chatbot podrían ser tratados como productos defectuosos. En declaraciones a Associated Press, Meetali Jain, uno de los abogados de García, opinó que la orden envía un mensaje claro a las grandes compañías tecnológicas: “Silicon Valley necesita detenerse, pensar e imponer medidas de seguridad antes de lanzar productos al mercado”.

En tanto, un vocero de Character.AI dijo que la compañía continuará luchando en el caso y empleará nuevas funciones de seguridad para proteger a los menores, como medidas para prevenir “conversaciones sobre autolesiones”, según informó Reuters. Desde Google también se mostraron en contra de la decisión y remarcaron que Google y Character.AI son “completamente independientes”: “Google no creó, diseñó ni administró la aplicación de Character.AI ni ninguno de sus componentes”. Sin embargo, lo que vincula a ambas empresas es que Character.AI fue fundada por dos exingenieros de Google, quienes luego fueron reincorporados. Por este motivo, García sostuvo que la compañía es cómplice de la tecnología que terminó con la vida de su hijo.

Responsabilidad en tiempos de IA
“La decisión del tribunal cambia la forma de concebir a la IA. Ya no es solo una herramienta, sino una entidad que puede generar daños reales en la vida cotidiana y que son susceptibles de reclamar ante la Justicia”, comentó a LA NACION Antonella Stringhini, abogada especialista en administración pública y en IA, y directora académica de proyectos de Inteligencia Artificial Ubatec. Y añadió que la orden reconoce que todos los actores que intervienen en “el ciclo de vida de la IA” pueden convertirse en responsables de sus daños.

El intendente de la ciudad, Dr. Mario Papaleo se expresó en redes sociales sobre lo que acontece en Vecinal Los Conquistadores.

Ante el pedido de explicación de un vecino en la red social facebook, Dr Papaleo, podría explicar a la gente porque cerro con candado la vecinal conquistadores... sin que la gente ( algunos son emprendedores ) pueda sacar sus cosas?
El primer mandatario expresó. "como siempre es más fácil tergiversar la realidad, la vecinal no fue cerrada con candado".
A lo que prosiguió, El predio es un Club, propiedad del gremio UPCN, que lo cede en comodato a la municipalidad, para que esta realice actividades. Ante el pedido de la vecinal, se prestó un espacio para que puedan reunirse, mientras debían construir su sede en terrenos cedidos por la municipalidad, lo cual no ocurrió. Y ante lo que el dueño del predio (UPCN) entendió que se había desvirtuado el convenio con el municipio, porque se realizaban actividades sin autorización e incluso con sub alquileres y/o cobro por las mismas, nos instruyó a tomar recaudos.
Y concluyo: no sé le prohibió retirar nada. La llave del lugar donde están esas cosas la tiene la vecinal.

Formalmente se iniciará allí el período proselitista de treinta días, de cara a los comicios generales del 29 de junio. Elegiremos Intendente y se renovarán tres bancas del concejo municipal. A nivel provincial, Auditoría de software y convocatoria a autoridades de mesa, en la agenda.

La ciudad de sauce viejo se prepara para definir quien será el próximo intendente de la ciudad y quienes ocuparan las tres bancas de concejales que quedarán vacantes el próximo 10 de diciembre.
"Desde el viernes se comenzarán a emitir los telegramas. Se enviarán a través de correo electrónico, tomando como base quiénes trabajaron ya en las elecciones primarias del pasado 13 de abril.
También para el próximo viernes a partir de las diez en el Data Center, se prevé la exhibición y auditoría de software. Han sido notificados los apoderados y autoridades de los partidos políticos que participarán de la elección. En simultáneo, la provincia ya ha ordenado la impresión de las boletas que se utilizarán.
Para esta elección se utilizarán boletas en tamaño de hoja A4, con una reducción sustancial de la cantidad de candidatos.

El Plenario determinó PARO DE 48 horas.

La representación de Intendentes y Presidentes Comunales se mantuvo en el ofrecimiento de una propuesta salarial que no incorpora a los básicos la pérdida producida por la inflación del primer trimestre (4,5%). Además se suma el incumplimiento del Acta Paritaria de febrero/25 por parte de la Caja de Jubilaciones de la Provincia, la Caja de Venado Tuerto, de Rufino y de la ciudad de Santa Fe que no reconocen la totalidad del incremento firmado para el sector pasivo.

FESTRAM, además, llevó a la mesa paritaria la preocupación que surge a partir de la decisión del Gobierno Provincial de incrementar los pagos del servicio complementario de la Obra Social IAPOS, y que significa un aumento de por lo menos el 100% de dicho servicio y que en algunos casos puede representar para los trabajadores/as un aumento mayor que el ofrecimiento salarial trasladado.

El Plenario de Secretarios/as Generales rechazó por unanimidad la propuesta salarial y dispuso un Plan de Lucha consistente en un paro total de actividades de 48 horas para los dias miércoles 28 y jueves 29 de Mayo, con movilizaciones en todo el territorio provincial, las que serán resueltas por las Regionales que componen esta Federación.

hay evacuados y zonas anegadas Las lluvias comenzaron en la tarde noche del lunes y continuaron en la madrugada. "No hay en la historia de Vera un registro de tanto volumen de agua en tan poco tiempo", dijo su intendenta, Paula Mitre

Un importante temporal de lluvia y viento afectó a la localidad de Vera, en el norte de la provincia. En pocas horas cayeron 400 milímetros de agua en solo seis horas y provocó inundaciones masivas, calles colapsadas y dejó más de cien evacuados. La intendenta Paula Mitre calificó la situación como “una catástrofe”, en declaraciones a Radio HOY de Reconquista, durante una entrevista realizada a las 5:25 de la madrugada, justo cuando dejaba de llover.

Inundaciones, evacuados y una víctima fatal

Los barrios más afectados fueron San Martín de Porres y Martín Fierro, donde el agua llegó a superar las rodillas dentro de las viviendas. “Muchas familias lo perdieron todo”, expresó la mandataria local. Más de 100 personas fueron evacuadas a centros habilitados como los clubes Huracán, Ferro, Gimnasia, y el centro barrial San Martín de Porres.

Lamentablemente, se confirmó el fallecimiento de una mujer mayor, quien sufrió un paro cardíaco durante el temporal. Además, se reportaron varios casos de personas hospitalizadas por ataques de pánico, crisis de salud y hasta una emergencia obstétrica que requirió atención urgente.
Emergencia hídrica en Vera: habilitan líneas de ayuda

La Municipalidad de Vera activó la línea telefónica 3483 490824 para canalizar pedidos de evacuación y ayuda ante la emergencia hídrica. Las autoridades piden evitar la circulación por la vía pública, salvo por extrema necesidad, ya que varios vehículos quedaron inutilizados al quedar atrapados en zonas anegadas.

“No hay registros de algo así en la historia de Vera”

Durante la entrevista, Mitre enfatizó la gravedad sin precedentes de este fenómeno climático: “No hay en la historia de Vera un registro de tanto volumen de agua en tan poco tiempo”. La ciudad enfrenta una combinación de condiciones meteorológicas extremas y problemas estructurales en los desagües, lo que impidió un escurrimiento eficaz del agua.

Críticas al Gobierno Nacional y a Vialidad

La jefa comunal fue contundente al responsabilizar también a la falta de infraestructura nacional: “La Ruta Nacional 11 actúa como un dique de contención. No tiene alcantarillas suficientes y eso agrava la situación”. Apuntó directamente contra Vialidad Nacional y el Gobierno Nacional, afirmando que “nadie se comunicó hasta el momento” desde Nación para ofrecer asistencia. “Desde el inicio de mi gestión reclamamos por esto y aún no tuvimos respuestas”, declaró con firmeza.

Los Unitree G1 pelearon, esquivaron golpes y se levantaron solos tras ser derribados

Lo que hace poco más de una década era solo ciencia ficción hoy se ha convertido en un espectáculo real. En 2011, la película ‘Real Steel’ imaginaba un futuro en el que los combates de boxeo eran protagonizados por máquinas. Catorce años después, esa imagen ha dejado de pertenecer al cine: China acaba de celebrar una competición de kickboxing protagonizada por robots humanoides.

El evento tuvo lugar en Hangzhou y forma parte del CMG World Robot Contest Series, una iniciativa organizada por China Media Group, el mayor conglomerado audiovisual estatal del país. La competición fue retransmitida en directo a través de CCTV y otras plataformas oficiales. Actualmente, un resumen en vídeo del torneo está disponible en la página web de de la Televisión Central de China.

Como recoge el mencionado medio, en el cuadrilátero había cuatro robots G1 fabricados por la empresa asiática Unitree Robotics. Se enfrentaron en duelos uno contra uno, demostrando no solo fuerza bruta, sino también agilidad, coordinación y, sobre todo, equilibrio.

De las pruebas a los puños. Antes de los combates oficiales, cada robot tuvo su momento para calentar. Los G1 mostraron su repertorio: desplazamientos laterales, golpes directos y capacidad de reacción al empuje. Durante los combates, fueron capaces incluso de ejecutar un kip-up, una maniobra acrobática para levantarse del suelo sin usar las manos, después de ser derribados.

Las reglas eran claras. Tres asaltos de dos minutos. Puntuación por golpe válido al tronco o la cabeza, tanto con manos como con pies. Penalizaciones si un robot no conseguía levantarse en ocho segundos tras una caída. En caso de empate, decidía la puntuación técnica. En la final, el robot controlado por un influencer llamado Lu Xin se llevó el título.

La competición llega pocas semanas después de otro evento que también captó la atención mundial: una media maratón celebrada en Pekín donde varios robots humanoides corrieron junto a miles de participantes humanos.