AISafety.com
Un solo punto de entrada al ecosistema: mapa del campo, cursos, eventos, convocatorias, comunidades, financiamiento, empleos, asesoría y medios.
Formato: En línea Duración: Referencia permanente
- hub
- referencia
- datos abiertos
Recursos abiertos de seguridad y gobernanza de IA
Un directorio curado de cursos, programas de investigación, fellowships, fuentes de financiamiento y comunidades. Cada enlace se verifica a mano y el catálogo completo puede descargarse para reutilizarse.
Cómo usar este directorio
Entrar al campo de la seguridad en inteligencia artificial suele ser confuso: la información está dispersa, muchas convocatorias caducan y varios enlaces de referencia dejan de funcionar. Reunimos aquí los recursos que consideramos vigentes y útiles, con una nota sobre su formato y duración para que puedas decidir rápido qué se ajusta a tu momento. Si es tu primera vez, te recomendamos comenzar por un curso introductorio y por el mapa del campo.
- Cursos y currículos
- Programas de investigación
- Gobernanza y política
- Financiamiento
- Comunidades
- Recursos en español
Qué vas a encontrar
Enlaces verificados el 29 de septiembre de 2026. Si encuentras uno roto o quieres proponer un recurso, escríbenos.
- 69recursos verificados
- 13cursos y currículos
- 20programas y fellowships
- 12relevantes para América Latina
Explora los recursos
Filtra por tipo, área o idioma, o busca por nombre. Los filtros se aplican en tu navegador; nada sale de tu equipo.
-
-
AISafety.info
Respuestas en lenguaje sencillo a cientos de preguntas frecuentes sobre riesgos de la IA. Buen punto de partida para divulgación.
Formato: En línea Duración: Autogestionado
- preguntas frecuentes
- divulgación
- introducción
-
AI Alignment Forum
Foro donde los investigadores discuten alineación, desde modelos técnicos de agencia hasta el panorama estratégico del campo.
Formato: En línea Duración: Permanente
- foro
- investigación
- debate
-
LessWrong
Comunidad de escritura y discusión donde se publica buena parte del pensamiento sobre riesgos de la IA y racionalidad aplicada.
Formato: En línea Duración: Permanente
- foro
- blog
- racionalidad
-
EA Forum
Foro donde se anuncian convocatorias, se publican análisis de impacto y se debaten prioridades del campo de la seguridad en IA.
Formato: En línea Duración: Permanente
- foro
- convocatorias
- análisis
-
Alignment Ecosystem Development
Proyectos abiertos de infraestructura para el ecosistema de alineación, con espacio para personas voluntarias.
Formato: Remoto Duración: Continuo
- voluntariado
- infraestructura
- proyectos abiertos
-
AI Safety Support
Apoyo a personas que quieren entrar al campo: sesiones de orientación, conexiones y recursos para quienes empiezan.
Formato: Remoto Duración: Continuo
- apoyo
- ingreso al campo
- mentoría
-
AI Safety México
Investigación, educación y política sobre seguridad en IA en México. Cursos gratuitos, mesas de trabajo y proyectos como VIGÍA.
Formato: Híbrido (México) Duración: Continuo
- México
- cursos
- investigación
-
Carreras con Impacto
Guía de carrera en español para trabajar en problemas globales apremiantes, incluida la seguridad en inteligencia artificial.
Formato: En línea Duración: Autogestionado
- carrera
- español
- orientación
-
Observatorio de Riesgos Catastróficos Globales (ORCG)
Organización hispanohablante que investiga y asesora sobre riesgos catastróficos globales, incluidos los derivados de la IA avanzada.
Formato: Híbrido (Iberoamérica) Duración: Continuo
- español
- política pública
- riesgo global
-
LANAIS (Latin American Network for AI Safety)
Red que conecta a quienes trabajan en seguridad en IA en América Latina, con mapa regional, guías de carrera y eventos propios.
Formato: Remoto (regional) Duración: Continuo
- América Latina
- red regional
- orientación
-
BAISH (Buenos Aires AI Safety Hub)
La comunidad técnica más consolidada de la región: cursos con BlueDot, talleres de reimplementación de papers y la beca AISAR.
Formato: Presencial (Buenos Aires) e híbrido Duración: Continuo
- Argentina
- investigación
- beca
-
AI Safety Brazil
Organización sin fines de lucro que cubre desde sesgo e interpretabilidad hasta alineación y riesgo catastrófico en el contexto brasileño.
Formato: Híbrido (Brasil) Duración: Continuo
- Brasil
- comunidad
- educación
-
FAIR IALAB (Universidad de Buenos Aires)
Grupo de investigación en una universidad pública latinoamericana que aborda la seguridad de IA de frontera como problema sociotécnico.
Formato: Presencial (Buenos Aires) Duración: Continuo
- Argentina
- universidad pública
- investigación
-
CEGIA
Centro brasileño que ha llevado las discusiones de seguridad en IA a los debates de gobernanza y política pública de la región.
Formato: Híbrido (Brasil) Duración: Continuo
- Brasil
- política pública
- gobernanza
-
América Latina y su lugar en AI safety: un mapa
Mapeo de quién hace qué en seguridad en IA en América Latina: talento, trabajo técnico, regulación, financiamiento y vacíos por llenar.
Formato: Lectura Duración: Lectura de 15 minutos
- América Latina
- panorama
- estrategia
-
LatamGPT (CENIA)
Modelo abierto entrenado con textos regionales en español, portugués y lenguas indígenas. Proyecto de soberanía con evaluación de seguridad pendiente.
Formato: Presencial (Chile) y abierto Duración: Continuo
- Chile
- soberanía
- modelo abierto
-
European Network for AI Safety (ENAIS)
Red que conecta investigadores y constructores de campo; colabora con AI Safety México en cursos de gobernanza y en VIGÍA.
Formato: Híbrido Duración: Continuo
- red
- gobernanza
- colaboración
-
Apart Research
Hackathones de investigación y el programa Apart Lab, con presencia activa en el Sur Global. Coorganiza el Global South AIS Challenge.
Formato: Remoto / híbrido Duración: Varía por convocatoria
- hackathones
- Sur Global
- investigación
-
BlueDot Impact
El curso introductorio estándar del campo, con rutas de seguridad técnica, gobernanza de IA de frontera y estrategia de AGI.
Formato: En línea con cohortes Duración: De 2 horas a 5 semanas
- introducción
- cohorte
- gratuito
-
AI Safety Atlas
Libro de texto del CeSIA que organiza el conocimiento de AI safety en una narrativa progresiva. Base de varios cursos de AI Safety México.
Formato: En línea Duración: Autogestionado
- libro de texto
- autoestudio
- estructurado
-
ARENA (Alignment Research Engineer Accelerator)
Bootcamp intensivo para pasar de programador competente a ingeniero de alineación. Su currículo está disponible de forma abierta.
Formato: Presencial (Londres) y currículo abierto Duración: 4-5 semanas
- bootcamp
- transformers
- currículo abierto
-
Introduction to ML Safety (CAIS)
Curso de nivel posgrado del Center for AI Safety sobre robustez, monitoreo, control y seguridad sistémica en aprendizaje automático.
Formato: En línea Duración: 8 semanas
- robustez
- monitoreo
- posgrado
-
AI Safety, Ethics and Society (AISES)
Libro y curso del CAIS que cubre pérdida de control, desalineación y uso malicioso con marcos de otras disciplinas de riesgo.
Formato: En línea Duración: Autogestionado
- ética
- sociedad
- libro
-
ML4Good
Bootcamp intensivo con proyecto final y sesiones técnicas y de gobernanza. Integrantes de AI Safety México han sido participantes.
Formato: Presencial (varias sedes) Duración: 10 días
- bootcamp
- proyecto final
- presencial
-
AI Risk Fundamentals (Lens Academy)
Curso basado en el libro "If Anyone Builds It, Everyone Dies" sobre por qué la superinteligencia podría ser catastrófica y qué hacer.
Formato: En línea Duración: Autogestionado
- introducción
- riesgo existencial
- nuevo
-
Introduction to AI Safety (Stanford CS120)
Curso universitario de Stanford sobre los retos técnicos de construir sistemas de IA confiables, éticos y alineados.
Formato: En línea (material abierto) Duración: Un semestre
- universitario
- Stanford
- material abierto
-
Language Models and Intelligent Agentic Systems
Serie de lecciones de Meridian sobre cómo se construyen los sistemas de modelos de lenguaje, para entender y anticipar su comportamiento.
Formato: En línea Duración: 16 clases
- LLM
- agentes
- clases grabadas
-
UChicago XLab AI Security Guide
Guía en cinco secciones sobre ejemplos adversarios, jailbreaking, manipulación de modelos, envenenamiento de datos y extracción de información.
Formato: En línea Duración: Autogestionado
- seguridad
- adversarial
- jailbreaks
-
Introduction to Cooperative AI
Introducción al campo de la IA cooperativa, centrado en mejorar la inteligencia cooperativa de sistemas avanzados.
Formato: En línea Duración: Autogestionado
- cooperación
- teoría de juegos
- multiagente
-
Agent Foundations for Superintelligence-Robust Alignment
Guía a la corriente que busca alineación con garantías teóricas capaces de escalar hasta la superinteligencia.
Formato: En línea Duración: Autogestionado
- fundamentos de agencia
- teoría
- avanzado
-
Reading What We Can
Colección de libros y artículos organizados como reto de lectura: bases de AI safety, ingeniería de ML y ciencia ficción relevante.
Formato: En línea Duración: Reto de 20 días
- lecturas
- reto
- autoestudio
-
MATS (ML Alignment & Theory Scholars)
El programa de mentoría más grande del campo: investigación guiada en alineación e interpretabilidad, con beca económica.
Formato: Berkeley y remoto Duración: 10 semanas
- mentoría
- interpretabilidad
- beca
-
SPAR (Supervised Program for Alignment Research)
Programa remoto de medio tiempo que empareja talento emergente con especialistas. Integrantes de AI Safety México han participado.
Formato: Remoto Duración: 3 meses (medio tiempo)
- remoto
- medio tiempo
- mentoría
-
LASR Labs
Equipos de tres o cuatro personas trabajando a tiempo completo para publicar investigación en seguridad, con beca y apoyo integral.
Formato: Presencial (Londres) Duración: 13 semanas
- publicación
- equipo
- Londres
-
Pivotal Research Fellowship
Investigación a tiempo completo en seguridad, gobernanza o bioseguridad con mentoría, beca, viaje y hospedaje cubiertos.
Formato: Presencial (Londres, sede LISA) Duración: 9 semanas + extensiones
- beca completa
- bioseguridad
- LISA
-
MARS (Cambridge AI Safety Hub)
Mentoría estructurada para estudiantes en proyectos de alineación. Antes en alignmentmentorship.com, ahora alojado en caish.org.
Formato: Remoto Duración: 2-3 meses
- estudiantes
- mentoría
- remoto
-
AI Safety Camp
Colabora con líderes de proyecto para producir investigación publicable en alineación. Formato accesible para primeras contribuciones.
Formato: Remoto y presencial Duración: Por proyecto
- proyectos
- accesible
- colaboración
-
Algoverse AI Safety Fellowship
Equipos pequeños con mentores de Apollo, FAR AI y MATS, orientados a publicar en conferencias de aprendizaje automático.
Formato: Remoto Duración: 12 semanas
- publicación
- equipo
- remoto
-
PrincInt Fellowship (antes PIBBSS)
Investigación que aplica neurociencia, biología evolutiva, sistemas dinámicos y filosofía a la seguridad en IA. PIBBSS ahora es Principles of Intelligence.
Formato: Presencial (Ciudad del Cabo) Duración: 3 meses
- interdisciplinaria
- doctorado
- Sur Global
-
Constellation
Centro de investigación en Berkeley con programas de residencia e investigadores visitantes; opera el espacio de los Anthropic Fellows.
Formato: Presencial (Berkeley) Duración: Varía por programa
- Berkeley
- residencia
- centro
-
Anthropic Fellows Program
Financiamiento y mentoría de Anthropic para un proyecto empírico con resultado público. Convocatoria continua por cohortes.
Formato: Remoto (EE. UU., Reino Unido, Canadá) Duración: 4 meses
- Anthropic
- empírico
- cohortes
-
SteadRise (antes Impact Academy)
Ruta directa al campo para profesionales con experiencia en investigación, ingeniería, política y advocacy. Impact Academy se renombró SteadRise.
Formato: Remoto / híbrido Duración: 3-6 meses
- profesionales
- colocación
- internacional
-
ERA Fellowship (Cambridge)
Investigación de verano sobre riesgos existenciales y gobernanza de IA, con mentoría y beca en la Universidad de Cambridge.
Formato: Presencial (Cambridge) Duración: 8-9 semanas
- Cambridge
- verano
- riesgo existencial
-
GovAI: oportunidades y fellowships
Fellowships de verano e invierno del Centre for the Governance of AI, con mentoría doble y seminarios de investigación.
Formato: Presencial (Oxford) y remoto Duración: 3 meses
- gobernanza
- mentoría
- Oxford
-
Horizon Fellowship
Colocaciones en oficinas de gobierno, comités del Congreso y centros de pensamiento de Estados Unidos sobre tecnologías emergentes.
Formato: Presencial (Washington D. C.) Duración: 6-24 meses
- gobierno
- Estados Unidos
- colocación
-
IAPS (Institute for AI Policy and Strategy)
Proyectos de investigación sobre gobernanza de modelos de frontera, con acompañamiento y acceso a la red de política de IA.
Formato: Washington D. C. y remoto Duración: 3 meses
- modelos de frontera
- política
- investigación
-
Talos Network
Curso de fundamentos, cumbre en Bruselas y colocación remunerada en organizaciones europeas de política de IA.
Formato: Bruselas y remoto Duración: 7 meses
- Unión Europea
- colocación
- beca
-
Tarbell Fellowship
Periodismo especializado en IA con beca y colocación en una redacción. El programa ahora opera bajo el Tarbell Center.
Formato: Presencial (redacciones) Duración: 1 año
- periodismo
- divulgación
- beca
-
Institute for Law & AI
Programas de verano en derecho y política de IA, con vertientes estadounidense y europea y una semana intensiva presencial.
Formato: Remoto con semanas presenciales Duración: 8-12 semanas
- derecho
- Europa
- Estados Unidos
-
RAND: Global and Emerging Risks
Investigación sobre seguridad y tecnologías emergentes en RAND, incluido su centro de seguridad de la IA y programas de fellows.
Formato: Presencial y remoto Duración: 1-3 años
- seguridad nacional
- centro de pensamiento
- investigación
-
Open Problems in Technical AI Governance
Mapa de problemas abiertos donde herramientas técnicas pueden habilitar la gobernanza: evaluaciones, verificación y cómputo.
Formato: Lectura (arXiv) Duración: Problemas abiertos
- evaluaciones
- gobernanza técnica
- agenda
-
Open Problems in Mechanistic Interpretability
Revisión colectiva de los problemas abiertos que definen la agenda de interpretabilidad mecanicista y sus retos conceptuales.
Formato: Lectura (arXiv) Duración: Problemas abiertos
- interpretabilidad
- agenda
- revisión
-
Foundational Challenges in Assuring Alignment and Safety of LLMs
Doscientas preguntas de investigación sobre los retos fundamentales para asegurar la alineación y seguridad de modelos de lenguaje.
Formato: Lectura (arXiv) Duración: Problemas abiertos
- LLM
- agenda
- colaborativo
-
GovAI: investigación
Publicaciones y líneas de investigación del Centre for the Governance of AI, útiles para identificar preguntas de política pendientes.
Formato: Lectura Duración: Referencia permanente
- política
- publicaciones
- agenda
-
METR (Model Evaluation & Threat Research)
Desarrolla y ejecuta evaluaciones de capacidades peligrosas, incluida la autonomía y la capacidad de hacer investigación en IA.
Formato: Remoto / Berkeley Duración: Continuo
- evaluaciones
- capacidades
- referencia
-
Redwood Research
Investigación sobre control de IA y simulación de alineación; también asesora a gobiernos y empresas en prácticas de seguridad.
Formato: Presencial (Berkeley) Duración: Continuo
- control de IA
- investigación
- asesoría
-
Center for AI Safety (CAIS)
Investigación técnica, construcción de campo y promoción de estándares de seguridad. Publica el boletín de referencia del sector.
Formato: Presencial (San Francisco) y remoto Duración: Continuo
- investigación
- estándares
- campo
-
UK AI Security Institute (AISI)
Instituto gubernamental que evalúa modelos de frontera y publica metodologías de evaluación reutilizables por otros países.
Formato: Presencial (Reino Unido) Duración: Continuo
- gobierno
- evaluaciones
- modelo institucional
-
80,000 Hours: bolsa de trabajo
Vacantes de alto impacto en investigación, política y operaciones, con filtros por causa, ubicación y nivel de experiencia.
Formato: En línea Duración: Continuo
- empleos
- vacantes
- filtros
-
Successif
Mentoría de carrera para profesionales de media y alta trayectoria que quieren reorientarse hacia trabajo en seguridad en IA.
Formato: En línea Duración: Acompañamiento
- mentoría
- transición
- profesionales
-
Long-Term Future Fund
Financia proyectos individuales y de grupos pequeños en seguridad en IA, incluidos periodos de estudio y de investigación independiente.
Formato: En línea Duración: Convocatoria abierta
- becas
- individual
- flexible
-
grantmaking.ai
Base pública de proyectos de seguridad en IA que buscan financiamiento, con evaluaciones comunitarias para coordinar donantes.
Formato: En línea Duración: Rondas periódicas
- transparencia
- donantes
- nuevo
-
AI Safety Newsletter (CAIS)
Resumen semanal de los desarrollos más relevantes en seguridad en IA, escrito para audiencias técnicas y no técnicas.
Formato: Correo electrónico Duración: Semanal
- boletín
- semanal
- panorama
-
Transformer
Periodismo independiente sobre la industria de la IA y sus implicaciones de política, con reportería original.
Formato: Correo electrónico y web Duración: Varias veces por semana
- periodismo
- política
- industria
-
Don't Worry About the Vase
Análisis exhaustivo de Zvi Mowshowitz sobre novedades en IA; el registro más completo semana a semana del campo.
Formato: Boletín Duración: Semanal
- análisis
- profundidad
- seguimiento
-
Import AI
Boletín de Jack Clark que conecta avances técnicos de investigación con sus consecuencias de política y gobernanza.
Formato: Correo electrónico Duración: Semanal
- boletín
- investigación
- política
-
AI Lab Watch
Seguimiento comparado de las prácticas y compromisos de seguridad de los laboratorios de IA de frontera.
Formato: En línea Duración: Actualización continua
- rendición de cuentas
- comparativo
- laboratorios
-
ControlAI
Organización de advocacy con boletín y materiales divulgativos sobre riesgos de la IA avanzada dirigidos a tomadores de decisión.
Formato: En línea y correo electrónico Duración: Continuo
- advocacy
- divulgación
- boletín
Sin resultados
Prueba con otra palabra clave o limpia los filtros. Si crees que falta un recurso, escríbenos a contact@aismx.org.
Un espacio abierto
Este directorio es un bien común. Los datos están disponibles para descarga y reutilización, y las propuestas de la comunidad son bienvenidas.
Propón o corrige un recurso
Si conoces un programa que falta, detectas un enlace roto o una descripción desactualizada, escríbenos a contact@aismx.org. Nos interesa especialmente sumar recursos en español y oportunidades accesibles desde América Latina.
Reutiliza los datos
El botón «Descargar JSON» exporta el catálogo completo para que puedas integrarlo en tus propios materiales, talleres o sitios. Si lo reutilizas, agradecemos la atribución a AI Safety Mexico.
Referencias del ecosistema
Nos apoyamos en el trabajo de AISafety.com, que mantiene el mapa y los directorios más completos del campo, y en ENAIS. Para convocatorias con fecha límite, consulta siempre la fuente original.
Participa con nosotros
Hay cursos in-house para instituciones, estancias con la UPY, mesas el primer viernes de cada mes y un calendario en Luma. Empieza por cómo participar.
¿Falta algo o encontraste un enlace roto?
El directorio se mantiene a mano y depende de que la comunidad lo corrija. Cuéntanos qué recurso agregarías, sobre todo si es en español o de América Latina.
Proponer un recurso