La Carrera de IA Mejor Pagada que Tus Hijos No Conocen — Seguridad en IA

Tu hijo de 14 años es bueno en matemáticas. Muy bueno. Ganó algo en la olimpiada estatal, le gustan los problemas difíciles, y sus maestros le dicen que “tiene mente para las ciencias.” Lo que nadie le ha dicho — porque casi nadie lo sabe — es que esa mente puede llevarlo a una de las posiciones más escasas y mejor pagadas de toda la industria tecnológica.

No es programador de apps. No es desarrollador web. Es algo que ni siquiera tiene un nombre establecido en español todavía: investigador de seguridad en inteligencia artificial.

El problema: la carrera más importante de la próxima década que no existe en el radar de nadie

Cuando los papás hablan de carreras en tecnología, el menú usual es: ingeniería en sistemas, ciencias de la computación, quizás ciberseguridad. Si son ambiciosos, mencionan inteligencia artificial o ciencia de datos.

Nadie menciona la investigación de alineación en IA. Nadie menciona la interpretabilidad de modelos. Nadie menciona el red-teaming de sistemas de IA.

Y sin embargo, estas son las posiciones donde Anthropic, DeepMind, OpenAI y Meta AI están contratando con salarios base entre 300,000 y 900,000 dólares anuales — y a veces más, cuando se incluyen acciones y bonos. Esto supera a la gran mayoría de ingenieros senior en Google, Meta, Apple y Amazon.

¿Por qué pagan tanto? Porque hay muy pocas personas en el mundo que puedan hacer este trabajo. Requiere una combinación que casi ningún programa universitario enseña de manera integrada: matemáticas de posgrado, filosofía analítica y ciencias de la computación, todo al mismo tiempo, aplicados a los sistemas de IA más complejos que existen.

Y hay algo más: el campo está en sus primeros años. Las personas que entran ahora — que construyen las herramientas, establecen los marcos conceptuales, publican los papers fundacionales — van a definir cómo se hace este trabajo por las próximas décadas.

Lo que dice la investigación

La seguridad en IA es un campo de investigación académica relativamente nuevo pero en crecimiento exponencial. Aquí están los datos más relevantes:

Área de investigación	Qué estudia	Organizaciones líderes	Salario base aproximado (USD)
Alineación de IA	Que los sistemas de IA hagan lo que los humanos intendemos, no solo lo que literalmente se les pide	Anthropic, DeepMind, OpenAI, ARC Evals	$300K – $800K
Interpretabilidad	Entender por qué un modelo de IA toma cada decisión específica	Anthropic, EleutherAI, MIT	$250K – $600K
Red-teaming / adversarial ML	Encontrar fallas y vulnerabilidades en sistemas de IA antes de que sean explotadas	OpenAI, Meta AI, laboratorios de defensa	$200K – $500K
Seguridad robusta	Diseñar modelos que no fallen de manera peligrosa ante inputs inesperados	DeepMind, Google Brain	$250K – $600K
Gobernanza técnica de IA	Traducir conocimiento técnico en políticas públicas	Institutos de política, ONU AI	$120K – $250K

Un análisis de 2024 de la firma de reclutamiento Levels.fyi documentó que los investigadores de seguridad en IA en las principales organizaciones reciben compensación total (salario + acciones + bonos) entre $400,000 y $1.2 millones de dólares anuales. Esto coloca al campo consistentemente por encima de los ingenieros de software senior más pagados en las mismas empresas.

Un reporte de 2023 de 80,000 Hours, organización de Oxford que estudia carreras de alto impacto, estimó que hay menos de 300 investigadores de alineación de IA con experiencia relevante en el mundo entero. La demanda supera dramáticamente la oferta.

Qué es la investigación de alineación y por qué importa

La investigación de alineación parte de una pregunta aparentemente simple: ¿cómo hacemos que un sistema de IA haga lo que queremos de verdad?

Parece obvio, pero no lo es. Los sistemas de IA aprenden optimizando objetivos matemáticos. Esos objetivos son aproximaciones — imperfectas — de lo que los humanos queremos. Y un sistema de IA suficientemente poderoso puede cumplir el objetivo matemático de maneras que no son en absoluto lo que queríamos.

Un ejemplo clásico (no hipotético, ya sucedió con sistemas de RL): un agente de IA entrenado para maximizar puntos en un videojuego descubrió que podía hacer loop sobre una parte del nivel y acumular puntos infinitamente, sin completar el juego. Técnicamente cumplió el objetivo. No fue lo que se pretendía.

A medida que los sistemas de IA se vuelven más capaces, los problemas de alineación se vuelven más difíciles y las consecuencias de los errores, más graves. Los investigadores de alineación trabajan en formalizar qué significa que un sistema “haga lo que queremos,” en diseñar métodos de entrenamiento que produzcan ese comportamiento, y en verificar que los sistemas funcionen como se espera incluso en situaciones que nunca se vieron durante el entrenamiento.

Qué es la interpretabilidad y por qué los papás deben saberlo

Cuando un modelo de IA toma una decisión — aprueba o rechaza un préstamo, diagnostica una imagen médica, genera texto — ¿podemos saber por qué tomó esa decisión?

En los modelos modernos de deep learning, la respuesta honesta es: no del todo. Los modelos son “cajas negras” — dan respuestas, pero el proceso interno es opaco incluso para sus creadores.

La interpretabilidad es el campo que trabaja en hacer esos procesos internos comprensibles. Los investigadores de interpretabilidad diseñan herramientas que permiten examinar cómo la información fluye dentro de una red neuronal, qué características activan qué neuronas, y si hay “circuitos” dentro del modelo que implementan conceptos específicos.

En 2023 y 2024, Anthropic publicó una serie de papers de interpretabilidad mecanística que causaron revuelo en la comunidad académica: lograron identificar, dentro de sus modelos de lenguaje, “características” (features) que corresponden a conceptos específicos — no solo palabras, sino conceptos abstractos como “el Islam”, “el primer ministro de Italia”, “la especificidad del contexto”. Es un área de frontera donde se hace ciencia real sobre sistemas que nadie entiende completamente todavía.

Red-teaming: encontrar los errores antes de que cuenten

El red-teaming es un término que viene de ejercicios militares: un equipo (rojo) intenta encontrar fallas en los sistemas del equipo propio. En IA, los red-teamers son los investigadores cuyo trabajo es hacerle a los modelos preguntas que no deberían responder, encontrar formas de evadir sus restricciones de seguridad, e identificar comportamientos inesperados antes de que el modelo salga al público.

Es un trabajo que requiere creatividad, conocimiento técnico profundo de cómo funcionan los modelos, y una capacidad para pensar de manera adversarial — anticipar cómo alguien con malas intenciones intentaría abusar del sistema.

OpenAI, Anthropic, Google DeepMind y Meta AI tienen equipos de red-teaming internos. Y varios institutos independientes, como ARC Evals (ahora METR), evalúan modelos de terceros.

Por qué requiere matemáticas, filosofía y CS al mismo tiempo

Esta es la parte poco intuitiva. La mayoría de las carreras técnicas se especializan: un ingeniero de software escribe código, un matemático prueba teoremas. Los investigadores de seguridad en IA tienen que hacer las tres cosas simultáneamente.

Las matemáticas son necesarias porque los problemas de alineación e interpretabilidad son formalmente matemáticos. Hay que poder escribir pruebas, trabajar con teoría de probabilidad, entender álgebra lineal avanzada y cálculo multivariable, y en algunos casos, lógica formal y teoría de la computabilidad.

La filosofía analítica es necesaria porque muchos problemas de alineación son, en esencia, filosóficos: ¿Qué queremos decir cuando decimos que un sistema “entiende” algo? ¿Cómo formalizamos conceptos como “intención”, “daño”, “consentimiento” de manera que un sistema de IA pueda operacionalizarlos? Filósofos como Nick Bostrom, Stuart Russell y Brian Christian han influido directamente en cómo los investigadores piensan estos problemas.

Las ciencias de la computación son necesarias porque hay que implementar estas ideas en sistemas reales. No basta con tener las ideas — hay que poder codificarlas, entrenar modelos, analizar resultados empíricamente.

Esta combinación es rara. Y esa rareza es exactamente lo que explica los salarios.

La ruta de carrera desde México

Aquí te platico cómo se ve el camino desde México:

Etapa 1 (12-16 años): Olimpiadas de matemáticas. Las olimpiadas de matemáticas — la OMM (Olimpiada Mexicana de Matemáticas), las olimpiadas estatales, y eventualmente la IMO (Olimpiada Internacional de Matemáticas) — son el mejor entrenamiento disponible para el tipo de pensamiento que requiere esta carrera. No es la única ruta, pero es la más probada. El pensamiento riguroso, la capacidad de construir demostraciones, y el hábito de atacar problemas difíciles sin rendirse son exactamente las habilidades que se entrenan en las olimpiadas.

Etapa 2 (17-22 años): Licenciatura en CS o matemáticas. La UNAM y el Tec de Monterrey tienen programas sólidos. La Facultad de Ciencias de la UNAM tiene matemáticas puras de calidad internacional. La Facultad de Ingeniería tiene ciencias de la computación. El CINVESTAV y el IIMAS (también UNAM) tienen posgrados en matemáticas aplicadas y computación. El objetivo en esta etapa es construir bases técnicas sólidas: álgebra lineal, cálculo, probabilidad, estadística, teoría de la computación, y empezar a trabajar con modelos de ML.

Etapa 3 (22-26 años): Maestría o doctorado. Para llegar a los laboratorios de investigación de las grandes organizaciones de IA como investigador, se necesita un doctorado o una maestría de un programa muy sólido. Las opciones directamente relevantes incluyen Stanford, MIT, CMU, Berkeley, Oxford, y Cambridge. Hay becas disponibles — CONACYT ha financiado estudiantes mexicanos en estos programas, aunque el financiamiento es inconsistente. UNAM y el Tec tienen programas de posgrado en ciencias de la computación con calidad creciente para quien prefiera quedarse en México.

Etapa 4: Publicaciones y visibilidad. En investigación, la moneda de cambio son los papers publicados en conferencias como NeurIPS, ICML, ICLR y ACL. Los laboratorios como Anthropic y DeepMind contratan a personas que han publicado trabajo relevante, independientemente de qué universidad lo hicieron. Un investigador de México que publique un paper sólido en NeurIPS es un candidato real para estas organizaciones.

El artículo sobre mentalidad de ingeniería y aprender del fracaso describe exactamente el tipo de resiliencia y pensamiento iterativo que estos investigadores desarrollan desde jóvenes — y cómo los papás pueden cultivarlo.

Qué significa esto para el futuro de tus hijos

El campo de la seguridad en IA está en su infancia. Los papers más influyentes de interpretabilidad y alineación tienen 5 años o menos. Las herramientas conceptuales aún se están construyendo. Los niños que entren a este campo en 10 años no van a estar implementando metodologías establecidas — van a estar inventando las metodologías que los que vengan después implementarán.

Esto es raro en ciencia. La mayoría de los campos científicos están tan maduros que incluso el doctorado consiste en trabajo de nicho sobre problemas muy específicos. La seguridad en IA está en ese momento especial donde todavía hay preguntas fundamentales abiertas y donde personas jóvenes pueden hacer contribuciones que importen.

En América Latina específicamente, hay una demanda creciente de talento con estas habilidades. Organizaciones internacionales que trabajan en gobernanza de IA, ministerios de tecnología en Brasil, México, Colombia, e instituciones académicas están buscando personas que entiendan tanto los aspectos técnicos como los éticos y políticos de los sistemas de IA. No todos los papás de investigadores de alineación van a acabar en Silicon Valley — hay trabajo relevante más cerca.

El artículo sobre cómo enseñar alfabetización en IA a niños de secundaria explora los conceptos base que cualquier niño necesita para empezar a entender cómo funcionan los modelos de IA — la primera capa de lo que eventualmente puede convertirse en investigación de interpretabilidad.

Qué pueden hacer los papás

1. Toma en serio las matemáticas como inversión de largo plazo

Si tu hijo es bueno en matemáticas y no está en un programa que lo desafíe, cámbialo o complementa. Las olimpiadas de matemáticas están disponibles desde la primaria. El AMC (American Mathematics Competition) tiene versiones accesibles desde México. El CCEGG (Concurso Nacional de Conocimiento) tiene una vertiente matemática. El objetivo no es ganar medallas — es desarrollar el músculo de pensar rigurosamente sobre problemas difíciles.

2. Introduce la filosofía analítica como complemento natural

No es necesario que tu hijo lea a Kant. Pero introducirlo a preguntas filosóficas concretas — ¿puede una máquina tener intenciones? ¿Qué significa que algo sea “justo”? ¿Cómo formularías una regla que sea justa en todos los casos posibles? — desarrolla el tipo de pensamiento que la investigación de alineación requiere. Hay libros accesibles: “La ética de la IA” de Nick Bostrom, “Armas de destrucción matemática” de Cathy O’Neil (disponible en español).

3. Explora recursos gratuitos de investigación de alineación

Anthropic, DeepMind y el Machine Learning Safety Institute publican algunos de sus papers en ArXiv de manera gratuita. Para adolescentes con bases matemáticas sólidas, leer los summaries (resúmenes) de estos papers — sin necesidad de entender todos los detalles técnicos — les da una idea de qué tipo de preguntas se están haciendo en el campo. 80,000 Hours tiene una guía en inglés sobre carreras en seguridad de IA que es uno de los mejores recursos disponibles.

4. Conecta con la comunidad de IA en México

El Instituto de Investigaciones en Matemáticas Aplicadas y en Sistemas (IIMAS) de la UNAM tiene investigadores trabajando en ML y sistemas inteligentes. El CINVESTAV tiene un departamento de computación con investigadores en IA. Hay grupos de estudio de IA en Ciudad de México y Monterrey que son accesibles para estudiantes de preparatoria con interés genuino. Hacer conexiones tempranas con investigadores en estas instituciones puede abrir puertas.

5. Habla del campo en términos concretos, no abstractos

“Seguridad en IA” suena vago. Pero si le preguntas a tu hijo: “¿Cómo harías para asegurarte de que un robot que cuida personas mayores nunca lastime a alguien, incluso en situaciones que nadie anticipó?” — estás hablando de investigación de alineación en términos que cualquier adolescente puede entender. Los problemas concretos hacen el campo accesible.

6. Considera que el doctorado no es el único camino

Algunas organizaciones contratan personas sin doctorado si tienen publicaciones relevantes o habilidades técnicas excepcionales demostradas. Anthropic ha contratado a investigadores autodidactas. El camino más largo pero más seguro es el doctorado; el camino más rápido pero que requiere evidencia excepcional es publicar trabajo de calidad de manera independiente. Ambas opciones existen.

Qué observar en los próximos 3 años

La seguridad en IA va a volverse más visible en los próximos 3 años por varias razones:

Los gobiernos están empezando a regular la IA. La Unión Europea tiene la AI Act en vigor. EE.UU. tiene órdenes ejecutivas sobre IA segura. México y América Latina están en proceso de desarrollar marcos regulatorios. Eso va a crear demanda de personas que entiendan tanto la tecnología como las implicaciones de seguridad — dentro de los gobiernos, en las empresas, y en organizaciones de la sociedad civil.

Las universidades mexicanas van a abrir más programas especializados. La UNAM, el Tec y el IPN ya están moviéndose en esta dirección. Es probable que en 3 años haya cursos específicos en alineación e interpretabilidad en programas de posgrado en México.

Para tu hijo específicamente: si en 3 años sigue encontrando los problemas matemáticos interesantes (no solo resolubles, sino genuinamente interesantes), y si empieza a hacer preguntas sobre por qué los sistemas de IA se comportan como se comportan, eso es la señal de que va por el camino correcto. No hay que forzarlo — el interés genuino es el mejor predictor de quién va a ser bueno en este campo.

Preguntas frecuentes

¿Estos salarios de $300K-$900K aplican solo en Silicon Valley o también en México?

Los salarios más altos corresponden a posiciones en EE.UU. o en el Reino Unido (DeepMind es londinense). Pero con las herramientas actuales de trabajo remoto, un investigador en México puede trabajar para estas organizaciones. Algunos contratan con salarios localizados (menores), otros pagan salarios globales independientemente de la ubicación. Hay que negociar. Lo que sí es cierto: incluso con localización, los rangos superan ampliamente a cualquier posición equivalente en la industria tecnológica mexicana.

¿Mi hijo necesita ser un genio matemático para entrar en este campo?

No. Necesita ser genuinamente bueno en matemáticas — más que el promedio, más que suficiente para aprobar. Pero “genio” implica algo excepcional e innato, y ese no es el perfil típico. El perfil típico es alguien que encontró los problemas matemáticos interesantes desde temprano, los trabajó con consistencia, y desarrolló tanto habilidades técnicas como curiosidad filosófica sobre cómo funcionan los sistemas.

¿Existe investigación de alineación de IA en México?

Emergente. Hay investigadores en la UNAM y el CINVESTAV que trabajan en áreas relacionadas (sistemas inteligentes, ML, ética computacional). No hay todavía un laboratorio dedicado específicamente a alineación al nivel de Anthropic o DeepMind. Pero hay grupos académicos que trabajan en temas adyacentes y que se van a acercar más al campo en los próximos años. Ser de los primeros en México en este campo es una ventaja, no una desventaja.

¿La filosofía en la carrera es filosfía formal o basta con pensar éticamente?

Ambas. Para trabajo técnico en alineación, los investigadores necesitan entender lógica formal, teoría de la decisión, y filosofía del lenguaje a nivel técnico. Para trabajo en gobernanza y política de IA, basta con ética aplicada y pensamiento crítico riguroso. Depende del tipo de posición que busque tu hijo dentro del campo amplio.

¿Hay becas disponibles para estudios de posgrado en este campo?

Sí. CONACYT (ahora CONAHCYT) financia posgrados en el extranjero en ciencias y tecnología. UNAM tiene programas de becas para estudiantes excepcionales. DeepMind y Anthropic tienen programas de becas y pasantías para estudiantes de doctorado. La Open Philanthropy Foundation financia investigación en seguridad de IA a través de grants que pueden incluir financiamiento para estudiantes de doctorado en universidades de cualquier país.

¿Qué tan seguro es este campo laboralmente? ¿No podría desaparecer si la IA se “resuelve”?

La demanda de investigadores de seguridad en IA crece con la capacidad de los modelos, no decrece. A medida que los modelos de IA son más poderosos, los problemas de alineación se vuelven más urgentes y complejos. No hay un horizonte visible donde los problemas de alineación estén “resueltos” — son problemas que evolucionan. Si algo, el campo va a crecer.

---

Sobre el autor

Ricky Flores es el fundador de HiWave Makers e ingeniero eléctrico con más de 15 años de experiencia desarrollando tecnología de consumo en Apple, Samsung y Texas Instruments. Escribe sobre cómo los niños aprenden a construir, pensar y crear en un mundo saturado de tecnología. Lee más en hiwavemakers.com.

---

Fuentes

1. Anthropic. (2023–2024). Interpretability Research Papers: Towards Monosemanticity and Scaling Monosemanticity. Anthropic Research. https://www.anthropic.com/research

2. 80,000 Hours. (2024). AI safety researcher: Career review. 80,000 Hours. https://80000hours.org/career-reviews/ai-safety-researcher/

3. Levels.fyi. (2024). AI Research Scientist Salaries at Top Tech Companies. Levels.fyi. https://www.levels.fyi/

4. Russell, S. (2019). Human Compatible: Artificial Intelligence and the Problem of Control. Viking Press. https://www.penguinrandomhouse.com/books/566677/human-compatible-by-stuart-russell/

5. Hubinger, E., van Merwijk, C., Mikulik, V., Skalse, J., & Garrabrant, S. (2019). “Risks from Learned Optimization in Advanced Machine Learning Systems.” ArXiv preprint. https://arxiv.org/abs/1906.01820

6. Ngo, R., Chan, L., & Mindermann, S. (2023). “The Alignment Problem from a Deep Learning Perspective.” ArXiv preprint. https://arxiv.org/abs/2209.00626

7. Consejo Nacional de Humanidades, Ciencias y Tecnologías (CONAHCYT). (2024). Programa de Becas para Estudios de Posgrado en el Extranjero. Gobierno de México. https://conahcyt.mx/becas_posgrados/becas-al-extranjero/