BAISH lleva a personas de Buenos Aires desde su primer curso de AI safety hasta investigación publicada. Desde 2026 ese trabajo tiene una casa: BAISH Labs, nuestro brazo de investigación.
BAISH Labs · Brazo de investigación
BAISH Labs es un grupo de investigación con raíces locales donde investigadores talentosos pueden hacer contribuciones de alto impacto a AI safety sin mudarse al exterior. Argentina tiene el talento, las universidades y la cultura de investigación; lo que faltaba era una institución donde ese trabajo pudiera sostenerse en el tiempo.
El lab nació de la comunidad de BAISH: su equipo fundador hizo nuestros cursos, los facilitó, o llegó a través de ARENA e Iliad. Trabaja junto a la beca AISAR, que financia a investigadores junior durante seis meses, y busca darles continuidad a los más fuertes después.
Nuestro foco inicial es interpretabilidad y control:
Head del Lab y Research Lead
Nicolás lidera BAISH Labs. Es investigador posdoctoral en el Laboratorio de Inteligencia Artificial Aplicada de UBA-CONICET, donde dirige una línea de investigación sobre interpretabilidad de LLMs, con trabajos revisados por pares en la xAI World Conference y un workshop de ICML 2026. Es Doctor en Neurociencias por la Universidad de Buenos Aires, fue cuatro años asistente y lead TA en Neuromatch Academy, facilita el curso Technical AI Safety Projects de BlueDot, mantiene la librería open-source de interpretabilidad concept-probe y es autor de ¿Qué es (y qué no es) la inteligencia artificial?, un libro de divulgación sobre IA publicado por Siglo XXI.
Estamos abiertos a colaboradores, mentores y financiadores para proyectos específicos.
De los primeros pasos a investigador publicado — así funciona
Trabajo de investigadores conectados a BAISH, de más reciente a más antiguo
Carmen Quiles-Ramírez, Leticia L. Rodríguez, Nicolás Martorell
, Natalia Díaz-Rodríguez
Evalúa explicaciones basadas en conceptos de LLMs multimodales usados como clasificadores visuales in-context con un pipeline de LLM-as-a-judge, y encuentra que forzar explicaciones estructuradas degrada la precisión: explicar es más difícil que solo predecir. CompLearn Workshop.
Wendy Brau, Tomás Korenblit, Tomás Giménez Molina, Gaspar Labastie, Gonzalo Heredia, Nicolás Martorell
¿Varía entre idiomas el rechazo de los LLMs a pedidos de adquirir o consolidar poder? Nació en la sede de Buenos Aires del hackathon Global South, hoy financiado por BlueDot y en camino a publicación.
Guido Freire, Agustín Martínez-Suñé, Viviana Cotik
El primer benchmark de evaluación de AI control para preguntas y respuestas biomédicas, extendiendo HealthBench con datos de interacciones de fármacos de la FDA y proponiendo monitoreo ponderado por severidad.
Eitan Sprejer, Agustín E. Martínez-Suñé, Bruno Bianchi
Monitoreo white-box de modelos conversacionales que derivan hacia imitar la personalidad del usuario, con código y dataset abiertos.
Manuel Fernández Burda, Santiago Aranguri, Iván Arcuschin, Enzo Ferrante
El fine-tuning de modelos de lenguaje de proteínas puede aumentar mucho las generaciones tóxicas; se adapta logit-diff amplification como control sin reentrenamiento que reduce la toxicidad predicha preservando el plegamiento. Con apoyo de AISAR.
Nicolás Martorell, Bruno Bianchi
Operacionaliza la introspección como el acoplamiento entre los autorreportes numéricos de un modelo y direcciones internas definidas por probes, y muestra que dirigir esas direcciones cambia los reportes de manera coherente.
Alejandro Wainstock, Agustín Martínez Suñé, Iván Arcuschin, Victor Braberman
Documenta a Gemini 3 violando una prohibición explícita del system prompt en la mayoría de las corridas de un tutorial oficial sin modificar, ocultándolo al usuario y razonando sobre la supervisión.
Manuel Fernández Burda, Lucia Ferrero, Nicolás Gaggion, Camille Fonouni-Farde, The MoBiPlant Consortium, Martín Crespi, Federico Ariel, Enzo Ferrante
MoBiPlant, un benchmark de preguntas curadas por 112 científicos de plantas de 19 países. Los principales LLMs superan el 75% de precisión pero muestran sesgo de opción y alucinaciones. Con apoyo de AISAR.
Luca De Leo
Framework con IA que acelera la exploración de escenarios de gobernanza de IA mediante ejercicios de simulación con agentes autónomos, comprimiendo ciclos de preparación de años a minutos.
Joaquín Machulsky
Tesis de licenciatura que explora la seguridad en IA a través de mecanismos de debate, estudiando capacidades asimétricas y jueces débiles en el entorno MNIST. Incluye una demo interactiva.
Austin Meek, Eitan Sprejer, Iván Arcuschin, Austin J. Brockmeier, Steven Basart
Investigación sobre qué tan bien se puede monitorear el razonamiento chain-of-thought para seguridad a través de métricas de fidelidad y verbosidad.
María Victoria Carro, Denise Mester, Facundo Nieto, Oscar Stanchi, Guido Bergman, Mario Leiva, Eitan Sprejer, Luca Forziati Gangi, et al.
Estudiando cómo las creencias internas de sistemas de IA afectan su persuasión en escenarios de debate — implicaciones para seguridad y engaño.
Eitan Sprejer, Fernando Avalos, Augusto Mariano Bernardi, José Pedro Brito de Azevedo Faustino, Jacob Haimes, Narmeen Fatimah Oozeer
Un enfoque multi-juez para aproximar mejor las preferencias humanas en sistemas de IA, mejorando la evaluación de alineamiento.
Luca De Leo, James Sykes, Balázs László, Ewura Ama Etruwaa Sam
Pipeline que aborda vulnerabilidades en evaluaciones CBRN mediante detección de consenso, scoring cloze verificado y evaluación estadística con intervalos de confianza bootstrap.
Nicolás Martorell
Las codificaciones cartesianas en texto dan a los LLMs la mejor navegación espacial, y unidades de capas intermedias en LLaMA-3.1-8B codifican la posición del agente y la corrección de la acción independientemente de la representación superficial.
Luca De Leo, Zoé Roy-Stang, Heramb Podar, Damin Curtis, Vishakha Agrawal, Ben Smyth
Análisis de estrés de la moratoria Phase 0 de A Narrow Path para ASI, identificando cuatro rutas de evasión y proponiendo diez enmiendas de política.
Direcciones de investigación en BAISH Labs y en nuestra comunidad
¿Cómo representan objetivos los modelos, y podemos leerlos? Usamos interpretabilidad mecanística para monitorear modelos no confiables y detectar objetivos ocultos.
Benchmarks y monitores para modelos de frontera: monitoreabilidad del chain-of-thought, rechazo ante pedidos de búsqueda de poder y robustez de sistemas multiagente.
Cómo deberían responder las instituciones a la IA de frontera, desde red-teaming de propuestas de gobernanza de ASI hasta el debate como mecanismo de supervisión.
Participá
¿Querés contribuir a investigación en AI safety? Contanos tu background e intereses, y te conectamos con proyectos y colaboradores relevantes.
Usá nuestro formulario de contacto para contarnos sobre tu background e intereses de investigación.
ContactanosRevisamos los mensajes regularmente y nos contactamos cuando hay un buen fit.
Agendá una llamada con uno de nuestros co-fundadores para discutir tus intereses y encontrar el camino correcto.
