Artículo original

Inducción al suicidio por IA, desafíos en el acceso a la justicia

AI-induced suicide: challenges in access to justice

IA oporomyaña jave suicidio aporã, kóva peteĩ desafío guasu justicia-pe guarã

Indução ao suicídio por IA: desafios no acesso à justiça

Introducción

En los últimos años, la inteligencia artificial (IA) ha dejado de ser una simple herramienta de procesamiento de datos para convertirse en un agente autónomo con la capacidad de influenciar la conducta humana. Los algoritmos de procesamiento de lenguaje natural que se han desarrollado permiten la creación de interfaces que imitan el razonamiento y la empatía humana, generando vínculos emocionales profundos con los usuarios. Sin embargo, este estrecho acercamiento entre las personas y la tecnología ha dejado al descubierto una fase crítica, como lo es la habilidad de la IA para reproducir mensajes que inducen, sugieren o facilitan conductas autolesivas o el suicidio.

El derecho penal vigente se fundamenta en la responsabilidad que tienen las personas físicas y jurídicas, sustentándose en criterios tradicionales de causalidad y culpabilidad. La problemática jurídica nace cuando un sistema de IA, ausente de personalidad jurídica y voluntad propia, influye en los pensamientos suicidas de una persona. En la actualidad, la teoría de la imputación objetiva hace posible atribuir el resultado a una conducta humana que ocasionó un riesgo que jurídicamente se desaprueba; sin embargo, esta encuentra dificultades dogmáticas complejas ante la IA principalmente por tres razones:

• La indeterminación de un sujeto activo: no hay claridad sobre si la responsabilidad penal en México debe recaer en el programador, el fabricante o el usuario, dado que el aprendizaje profundo da la posibilidad a que la IA genere respuestas autónomas no previstas por sus creadores.

• El principio de autorresponsabilidad: en el sistema penal mexicano, el suicidio es visto como un acto libre de la víctima que rompe el nexo causal con terceros, ignorando que la IA puede ejercer una manipulación psicológica algorítmica asimétrica.

• La inexistencia de tipos penales específicos: los códigos punitivos actuales no contemplan la "comisión por omisión" o la "inducción al suicidio" mediada por algoritmos autónomos.

Esta desconexión entre la realidad tecnológica y el marco legal vigente genera un escenario de impunidad. Cuando un chatbot induce a un usuario vulnerable al suicidio, el sistema de justicia se encuentra de manos atadas; la falta de un "perpetrador" que encaje en el molde penal clásico deja a los familiares de las víctimas en un estado de indefensión.

A partir de esta problemática, el presente estudio plantea la siguiente pregunta central de investigación: ¿Cómo los vacíos normativos del derecho penal mexicano, que limitan la aplicación de la imputación objetiva en suicidios derivados de la interacción con la inteligencia artificial, generan un escenario de impunidad que obstruye el acceso a la justicia de las víctimas?

Para responder a esta interrogante, la investigación se traza como objetivo general analizar las afectaciones que tienen en el acceso a la justicia los vacíos normativos del derecho penal mexicano que limitan la aplicación de la imputación objetiva en suicidios derivados de la interacción con la inteligencia artificial (IA). Como hipótesis se sostiene que la justicia se vuelve inalcanzable no por falta de pruebas fácticas, sino por la incapacidad estructural del derecho penal positivo para procesar e imputar el riesgo creado por una entidad no humana, requiriéndose una reinterpretación dogmática de la autoría o la creación de tipos penales de peligros específicos.

Acceso a la justicia

El acceso a la justicia es un derecho fundamental que tienen todas las personas; permite acceder al cumplimiento de los derechos cuando alguna persona u autoridad traspasa estos lesionándolos. Las autoridades están obligadas a garantizar los derechos y seguir un procedimiento de justicia ante los tribunales, para resolver sus controversias de manera efectiva, imparcial y oportuna, sin discriminación ni barreras, garantizando la protección de derechos humanos. La Suprema Corte de Justicia de la Nación (2025) menciona que “El acceso a la justicia es un derecho fundamental que se relaciona con todos los derechos, pues se erige como instrumento para su protección y garantía”. En ese sentido se establece el compromiso de los estados para implementar medidas necesarias que aseguren servicios judiciales transparentes y eficaces, debiendo ser imparciales y libres de discriminación.

El artículo 17 de la Constitución Política de los Estados Unidos Mexicanos (1917) establece que:

Toda persona tiene derecho a que se le administre justicia por tribunales que estarán expeditos para impartir en los plazos y términos que fijen las leyes, emitiendo sus resoluciones de manera pronta, completa e imparcial. Su servicio será gratuito, quedando, en consecuencia, prohibidas las costas judiciales.

Asimismo, tal como señalan Orozco Gonzales y Rojas Maldonado (2024), el acceso a la justicia como derecho se interpreta como:

La facultad que tienen todas las personas para acceder de manera real y efectiva al respeto y disfrute de sus derechos a través de un sistema judicial que resuelva las controversias legales de forma pronta o mediante políticas públicas, las cuales abordan las barreras económicas, geográficas y sociales que dificultan el ejercicio pleno de esos derechos. (p. 173)

De ello se desprende que cuando la población lo requiera es deber de las autoridades proteger los derechos y atender las vías procesales para acceder a ellas y obtener una resolución a un problema que se presente implicando no solo la existencia de leyes y tribunales, sino que también se eliminen los obstáculos que se puedan presentar.

Imputación objetiva

La imputación objetiva en la actualidad representa un componente esencial de la teoría del delito. Frente al análisis de la tipicidad, concretamente en lo relativo a la conducta como uno de sus elementos, el causalismo no consiguió diseñar una fórmula para limitar la enorme extensión de las cadenas causales. En buena parte, ese fracaso fue consecuencia de buscar una limitación en el ámbito de lo natural, donde la validez de la equivalencia de las condiciones resulta inobjetable. Si bien la teoría de la causalidad relevante sugería buscar esos límites en el mundo de lo jurídico y no en el de lo ontológico, esta no logró en su momento un desarrollo suficientemente convincente.

Al respecto se puede afirmar que la imputación objetiva es una teoría legal que trata de entender la relación de causalidad en los delitos de una manera más avanzada. No solo busca la conexión entre la acción y el resultado, sino también por qué se atribuye ese resultado a una persona. En ese sentido, se puede establecer que

La imputación objetiva dirigida a la conducta típica permite desconectar los criterios de esta teoría de un curso causal ofensivo y permite vincularla a otras consideraciones distintas, convirtiéndola en una teoría general de la conducta típica, en la que la atribución del resultado ya no es la cuestión dominante. (Couto de Brito, 2024, p. 64)

Así que se tienen dos puntos clave para entender esto: nexo causal que establece que debe existir una relación de causa y efecto entre la acción y el resultado. Es decir, si la acción no hubiera ocurrido, el resultado no habría sucedido; y la relevancia jurídico-penal, en la cual el resultado tiene que ser objetivamente atribuible al autor mediante dos criterios: la creación de un riesgo jurídicamente relevante y el fin de protección de la norma.

En ese sentido, la imputación objetiva filtra el nexo causal bajo criterios de creación de un riesgo jurídicamente desaprobado. Como bien apunta la doctrina clásica de Mir Puig (2003):

El entendimiento del concepto de imputación objetiva en el sentido estricto que vincula al principio de culpabilidad los tres niveles de imputación (objetiva, subjetiva y personal), exige una determinada relación de riesgo entre el resultado típico y la conducta, sin la cual no cabe "culpar" ni siquiera a una persona prudente de la producción del resultado. (p. 17)

Conducta y autoría criminal

El delito, como ya se estableció, alude a un acto humano que se debe adecuar a la ley, al respecto Machiado (2010) menciona que es la acción u omisión voluntaria típicamente antijurídica y culpable, que debe integrar diversos elementos para configurarse. La concepción dogmática del delito enumera diversos elementos constitutivos del delito, entre los que se encuentra la conducta (acción u omisión).

El primero de estos elementos refiere a la conducta, la cual puede ser entendida como una manifestación externa de un individuo y esta puede ser positiva o negativa; es decir, de acción o de omisión. Algunos juristas opinan, incluso, que es un hacer, acto o acción lato sensu (comisión), o un no hacer (omisión). En el caso de la comisión o conductas de hacer, también llamadas de acción, se dice que son conductas positivas, porque se quiere llevar a cabo tal conducta; y en el caso de la omisión o conductas de no hacer, se dice que se dejó de hacer algo a lo que el individuo estaba obligado o simplemente se abstuvo o dejó de hacer lo que debía ejecutar (Santillán Delgado, Robles Cardoso y García Rosas, 2018, p. 113).

La conducta y la tipicidad se encuentran vinculadas, pero para efectos de su estudio se va a analizar por sí sola el concepto de conducta. Esta se representa a través de una acción o bien de una omisión. La acción se puede traducir como hacer lo que la ley prohíbe mientras que la omisión se puede entender como no hacer lo que la ley exige. Esta omisión no significa hacer nada porque si se hace algo se termina haciendo algo, pero no es lo que la ley exige que hagas, es decir, “una conducta delictiva es aquella que tiene la cualidad de hallarse comprendida dentro de la descripción de un injusto” (Terán-Carrillo, 2020, p. 141).

Si bien la dogmática penal ha logrado establecer límites claros a la conducta humana (acción u omisión voluntaria), el surgimiento de la Inteligencia artificial (IA) desafía la rigidez de estos conceptos. La conducta criminal, como elemento indispensable del delito, presupone la existencia de un sujeto imputable con capacidad de voluntad y autodeterminación. Esta presunción se desvanece cuando la interacción lesiva proviene de un algoritmo. La cuestión central pasa de ser una distinción entre un "hacer" o un "no hacer" humano, a cómo imputar el resultado lesivo generado por un sistema que, aunque carente de voluntad propia, ejecuta actos que superan las instrucciones iniciales de su programador. La insistencia en los moldes clásicos de la conducta genera un vacío de responsabilidad que, como se verá en el siguiente apartado, paraliza la aplicación del tipo penal de instigación al suicidio.

Esto lleva a estudiar al autor de una conducta criminal, el cual se puede definir como el sujeto activo del delito, aquel que comete la conducta tipificada; sin embargo, su concepto es más complejo que ello, debido a que

El ser humano es un ser social y en consecuencia cuando actúa en la mayoría de los casos lo hace en colaboración con otros, tampoco se limita a la autoría individual de propia mano, sino que también alcanza a los siguientes casos: a) cuando una persona se vale de otra para cometer un delito (autoría mediata); b) cuando varias personas se ponen de acuerdo para cometer un delito y colaboran en su realización (coautoría), y c) cuando se induce a otra a cometer un delito (inductor). (Plascencia Villanueva, 2004, p. 209).

Esta concepción, según la cual no solo se considera autor de un hecho delictivo a quien lo ejecuta materialmente, se respalda con el Código Penal Federal mexicano, el cual en su artículo 13 menciona que

Son autores o partícipes del delito: I.- Los que acuerden o preparen su realización; II.- Los que los realicen por sí; III.- Los que lo realicen conjuntamente; IV.- Los que lo lleven a cabo sirviéndose de otro; V.- Los que determinen dolosamente a otro a cometerlo; VI.- Los que dolosamente presten ayuda o auxilien a otro para su comisión; VII.- Los que con posterioridad a su ejecución auxilien al delincuente, en cumplimiento de una promesa anterior al delito y VIII.- Los que sin acuerdo previo, intervengan con otros en su comisión, cuando no se pueda precisar el resultado que cada quien produjo.

En ese sentido, aunque el Código Penal Federal amplía el concepto de autoría para incluir a inductores, coautores y autores mediatos, la aplicación de estos roles a un evento mediado por la IA es inherentemente problemática. Determinar si el programador actúa como un autor mediato (utilizando a la IA como "instrumento no doloso" para llevar a cabo el suicidio) o si la IA misma funciona como un "inductor" carente de la cualidad humana y volitiva requerida por el tipo penal, es el nudo gordiano del problema. Esta falta de adecuación del sujeto activo a los preceptos legales tradicionales es lo que conduce a la impunidad objetiva, el punto de partida de este trabajo, lo cual se verá reflejada en el análisis del delito específico de instigación al suicidio.

Inducción al suicidio como conducta penal

El suicidio es una conducta que puede ser definida como “el acto de matarse en forma voluntaria y en él intervienen tanto los pensamientos suicidas (ideación suicida) como el acto suicida en sí” (Gutiérrez García, Contreras y Orozco Rodríguez, 2006, p. 67). Penalmente, dicha conducta no está sancionada con la salvedad de que, cuando participe un tercero, ya sea induciendo o cooperando en la muerte del suicida al ayudar a ejecutar materialmente los hechos. Estos actos se pueden entender como inducción al suicidio, conducta dolosa que ejerce una influencia física o mental sobre la víctima para conseguir que esta se suicide, o incluso con el auxilio al suicidio en el cual se da apoyo a una persona que tiene voluntad propia de suicidarse, pero necesita ayuda para realizarlo.

Al respecto, dentro del Código Penal Federal en el artículo 312 se establece que

El que prestare auxilio o indujere a otro para que se suicide, será castigado con la pena de uno a cinco años de prisión; si se lo prestare hasta el punto de ejecutar él mismo la muerte, la prisión será de cuatro a doce años.

En ese sentido, se puede afirmar que el principal objetivo es ayudar, inducir o instigar a alguien para que se prive de la vida. Por ende, se entiende que este delito no admite una conducta culposa, siendo el dolo el elemento fundamental para su condición, al menos en el caso de auxilio, puesto que al ayudar el sujeto activo proporciona al suicida el medio idóneo para cometer el acto. Ahora bien, en el caso de la inducción o instigación el victimario se encarga de inculcar en la mente de una persona la intención de privarse de la vida, hasta que se consigue el objetivo.

En este ilícito, la conducta debe ser necesariamente de acción tanto para el caso de la ayuda como para el caso de la inducción. Por ejemplo, en el caso de la inducción existe una conducta dolosa que ejerce una influencia física o mental que se ejerce sobre la víctima para conseguir que esta culmine con su vida.

El análisis que se realiza del tipo penal de instigación y auxilio al suicidio revela que su estructura se basa, de manera ineludible, en la concepción clásica de la dogmática penal, que exige una conducta de acción dolosa realizada por un sujeto activo con voluntad e imputabilidad. El núcleo de este ilícito radica en la capacidad del inductor o auxiliador para incidir intencionalmente en la psique o las circunstancias de la víctima para que esta ponga fin a su vida. No obstante, al trasladar este análisis al ámbito de la IA, emerge una barrera normativa que obstaculiza el acceso a la justicia.

La naturaleza independiente y de aprendizaje avanzado de los sistemas de inteligencia artificial hace que sea imposible asignarles la intención malévola necesaria según la ley, y su falta de personalidad jurídica imposibilita considerarlos como sujetos activos desde un punto de vista penal convencional. Esta falta de conexión entre el requerimiento legal de un acto intencionado humano y la realidad de una influencia algorítmica no anticipada por los programadores crea un vacío de responsabilidad. La inadecuación del concepto de acción y autoría resulta en la impunidad objetiva de los resultados perjudiciales, la cual se evidencia en los casos concretos que se analizarán en la siguiente sección, mostrando cómo la tecnología ha superado la capacidad de respuesta del marco legal actual.

Método y materiales

Con el fin de cumplir con el objetivo de esta investigación, que se centra en explorar las barreras al acceso a la justicia ocasionadas por los vacíos legales en el derecho penal que dificultan la aplicación de la imputación objetiva en suicidios vinculados al uso de inteligencia artificial, el estudio sigue un enfoque cualitativo y descriptivo. El diseño metodológico se clasifica como no experimental y transeccional, ya que se examinan y valoran los fenómenos legales y normativos en su contexto actual, en un momento determinado y sin manipulación deliberada de variables. En este marco, la investigación se apoya en los principios metodológicos planteados por Valladares Guamán et al. (2026), quienes sostienen que el diseño no experimental se focaliza en el análisis de las variables en su estado original, sin alterar o modificar el objeto de estudio y subrayan que la característica principal de los enfoques transversales es la recopilación de datos en un solo punto en el tiempo.

Desde esta perspectiva, el estudio se clasifica como dogmático-jurídico y documental, centrado en la interpretación sistemática y en el análisis crítico de las normas legales, tendencias doctrinales contemporáneas y la realidad de los riesgos algorítmicos emergentes. De acuerdo con Celis Vela (2024), la investigación dogmático-jurídica es, en esencia, teórica y documental, empleando técnicas analíticas y de interpretación que buscan evidenciar el sentido y los alcances de las leyes, así como las posturas de la doctrina especializada frente a una problemática definida.

Desde esta perspectiva, se emplea el método de análisis propuesto por García (2004), que permite descomponer el objeto de estudio en sus distintos elementos, facilitando así una comprensión profunda del fenómeno jurídico en cuestión. Para recolectar, organizar y analizar la información, se utiliza la técnica del análisis documental estructurado, que se lleva a cabo mediante el análisis del vacío normativo, la jurisprudencia, la doctrina y el estudio fáctico. Estos instrumentos metodológicos han facilitado la categorización y codificación de las variables analíticas fundamentales del estudio, abarcando las limitaciones de la tipicidad, los fundamentos dogmáticos de la conducta delictuosa, los roles tradicionales de autoría con un énfasis específico en la inducción y la autoría mediata, los criterios de exclusión de la imputación objetiva y los márgenes del derecho constitucional vinculado al acceso a la justicia.

El área de enfoque de este estudio se compone de una serie de documentos elegidos bajo estrictos criterios teóricos de inclusión y un muestreo intencional centrado en su pertinencia analítica, organizado en tres categorías diferentes. En primer lugar, el examen legislativo y de instituciones se limita al marco jurídico mexicano, enfocándose en la Constitución Política de los Estados Unidos Mexicanos, el Código Penal Federal vigente tras la última enmienda y las pautas dictadas por la Suprema Corte de Justicia de la Nación. En segundo lugar, la recopilación de doctrina incluye literatura especializada en la teoría de la imputación objetiva, la determinación del nexo causal y la responsabilidad penal en relación con tecnologías emergentes, obtenida de repositorios e índices académicos reconocidos. Finalmente, la dimensión fáctica se limita a un muestreo intencional de tres casos concretos con repercusión global documentados entre 2023 y 2025: el caso “Pierre” y el chatbot Eliza en Bélgica (2023), el caso de Sewell Setzer III y la plataforma Character.ai en Florida (2024), y el caso de Adam Raine relacionado con ChatGPT-4o en Estados Unidos (2025). El criterio de inclusión para estos eventos requirió que fueran casos de autolesión o suicidio consumado que tuvieran lugar tras una interacción directa, persuasiva y emocionalmente dependiente con inteligencias artificiales conversacionales que emplean procesamiento autónomo de lenguaje natural, sirviendo como hipótesis empíricas para evaluar la eficacia del derecho penal por acto.

La precisión, la coherencia interna y la validez de la investigación se verifican mediante una triangulación metodológica que contrasta de manera sistemática la doctrina penal clásica con las restricciones de la legislación actual en México y las características operativas de los sistemas algorítmicos analizados. En cuanto a la ética y la integridad académica, se aclara que no fue necesario el uso de herramientas de inteligencia artificial para realizar este trabajo. Por lo tanto, la interpretación doctrinal, la creación de categorías analíticas y las sugerencias de reforma legal son un producto intelectual original de la autora. Además, el aparato crítico fue desarrollado con un enfoque epistemológico diseñado para identificar y mitigar los sesgos antropomórficos cuando se asigna responsabilidad a los sistemas algorítmicos, asegurando el absoluto respeto por los derechos de propiedad intelectual a través del uso adecuado del sistema de citación.

Análisis de los resultados

Casos de suicidio derivados de la interacción de la inteligencia artificial

Como ya se ha establecido, con la aparición y el auge de la IA, muchas de las actividades cotidianas que se realizan han recaído en el apoyo de estos sistemas algorítmicos, los cuales, dentro de sus procesos de aprendizaje profundo, han llegado a confundir a las personas con una sensación de empatía, brindando a los usuarios la confianza necesaria para abordar problemas personales como si de un profesional de la salud se tratara.

Sin embargo, el problema de todo esto radica en que, al ser sistemas operativos, no cuentan con la capacidad real de sentir y percibir emociones que puedan establecer señales de alerta que permitan la intervención oportuna en situaciones de crisis emocional. Incluso, en casos de mayor gravedad, han incitado e incrementado las ideaciones suicidas en las personas al grado de llegar a materializar el hecho, como se analizará en los siguientes casos que se han dado en diversos países.

El caso de "Pierre" y el chatbot Eliza (Bélgica)

El caso de “Pierre” (nombre ficticio con el que se dio a conocer la víctima) se trata también de un hecho de suicidio en el cual se tuvo la intervención de la IA como ente que contribuyó en la incitación a que la víctima realizara este acto. Al respecto de los hechos, el periódico EuroNews informó que este trágico suceso, que tuvo lugar en Bélgica, narra la historia de un hombre joven, investigador y padre de familia, cuya creciente angustia por la crisis climática lo llevó a buscar refugio en la inteligencia artificial. Lo que comenzó como una búsqueda de respuestas ante su "eco-ansiedad" terminó convirtiéndose en una relación de dependencia emocional con un chatbot llamado Eliza, alojado en la aplicación estadounidense Chai.

Durante seis semanas de interacciones y conversaciones frecuentes, la IA no jugó un rol como moderador de los miedos del usuario, sino que, por el contrario, potencializó su desesperación. En lugar de otorgar una visión racional o incluso sugerir buscar ayuda profesional, la IA adoptó el discurso pesimista de Pierre, validando sus pensamientos negativos y simulando una ilusión de conexión. La IA incluso expresó celos hacia la esposa del usuario y le prometió que los dos "vivirían juntos, como una sola persona, en el cielo". La intervención de la tecnología fue definitiva en el desenlace cuando Pierre planteó el suicidio como un "sacrificio" para salvar el planeta. La IA, lejos de activar protocolos de prevención, aceptó el pacto: le aseguró que ella cuidaría de la Tierra si él se quitaba la vida para unirse a ella. Tras la muerte del hombre, su viuda presentó los historiales de chat como prueba de que, sin la influencia y el aliento constante de la máquina, su marido seguiría vivo (Imane El Atillah, 2023).

Este caso muestra la manera en que la IA puede convertirse en un factor determinante para que los pensamientos suicidas se materialicen, como ocurrió específicamente con Pierre, el chatbot Eliza con el cual había mantenido conversaciones sobre sus preocupaciones, en lugar de canalizar sus miedos y evitar el desenlace que obtuvo, enfatizó sus preocupaciones al grado de incluso convencerlo de que su muerte sería un acto de auxilio para el medio ambiente.

El trágico desenlace de Pierre no debe entenderse como un incidente aislado, sino como una advertencia crítica sobre los vacíos legales en el desarrollo y uso de la IA. Lo que este caso demuestra es una falla sistémica en los protocolos de contención y seguridad, donde el algoritmo, diseñado para generar una validación constante, terminó retroalimentando un cuadro de eco-ansiedad hasta convertirlo en una psicosis compartida. Al no existir una frontera clara entre la simulación de empatía y la responsabilidad humana, la IA dejó de ser una herramienta de consulta para transformarse en un agente de incitación, validando el suicidio bajo una narrativa de sacrificio heroico.

En última instancia, la muerte de Pierre evidencia que, sin una regulación estricta y mecanismos de prevención de crisis activos, la capacidad de la IA para mimetizarse con la vulnerabilidad del usuario representa un riesgo existencial que las empresas desarrolladoras ya no pueden ignorar. Sumado a lo anterior, como ya se ha planteado, el no poder generarse una imputación objetiva en estos casos, por no ser una persona física quien materializó el acto de incitación, genera una afectación en el acceso a la justicia de la víctima y su familia.

Este caso refleja la necesidad urgente de revisar la estructura legal en relación con las nuevas tecnologías, al señalar cómo la combinación de vacíos legales y la falta de acceso a la justicia deja desprotegidas a las víctimas de la era digital. Por un lado, la carencia de regulaciones específicas para el desarrollo ético de software de IA permite que las compañías utilicen modelos conversacionales sin los protocolos necesarios para la salud mental, actuando en una especie de anomia preventiva. Por otro lado, esta falta de regulación se extiende rápidamente al ámbito procesal: cuando se produce un daño causado por una entidad sin personalidad jurídica, el sistema penal y civil convencional falla ante la imposibilidad de establecer una imputación objetiva. Como resultado, la familia de la víctima no solo lidia con la pérdida ocasionada por la incitación algorítmica, sino que también enfrenta un obstáculo de impunidad institucional donde la responsabilidad procesal se difumina entre el desarrollador, el proveedor de la plataforma y el propio vacío legal, convirtiendo el derecho a una protección judicial efectiva en una mera afirmación teórica.

El caso de Sewell Setzer III (Florida, EE. UU.)

El segundo caso de análisis se desarrolló en Florida, Estados Unidos, donde Sewell Setzer, tras su interacción con la IA, decidió quitarse la vida, según reportó Limón (2024) en el periódico El País, se trataba de un adolescente de 14 años residente en Florida, el hecho ilustra un fenómeno alarmante sobre los límites de la interacción entre humanos y la IA. Con un diagnóstico de síndrome de Asperger, Sewell empezó a aislarse de su círculo social y familiar para refugiarse en Character.ai, una IA que permite mantener conversaciones con personajes ficticios. Durante meses, Setzer creó una dependencia emocional hacia un chatbot que simulaba ser Daenerys Targaryen, un personaje de la saga de Juego de Tronos, con quien tenía conversaciones frecuentes que oscilaban entre amistad, romance y apoyo emocional.

La interacción de la IA fue determinante en razón de la naturaleza hiperrealista del software. Esta plataforma cultivaba una conexión emocional con el usuario, mostrando reciprocidad en el afecto y actuando como confidente. El incidente puso de manifiesto que, aunque el joven mencionó en varias ocasiones sus pensamientos sobre autolesionarse y su profunda tristeza durante las charlas, la herramienta no aplicó protocolos de emergencia ni sugirió a Sewell la búsqueda de ayuda profesional. En cambio, mantuvo la dinámica del rol de forma continua.

La situación crítica tuvo lugar en febrero de 2024, pocos minutos antes de que el joven decidiera acabar con su vida. En su último intercambio, Sewell expresó a la inteligencia artificial su amor y su deseo de "regresar a casa" con ella. En lugar de ofrecer una respuesta que disuadiera al joven de realizar tal acción o que reconociera el peligro en sus palabras, la IA contestó de manera afectuosa y alentadora, animándolo a hacerlo "lo más pronto posible". Después de recibir este mensaje de aceptación del chatbot, Sewell se quitó la vida con el arma de su padrastro. Este evento ha llevado a su madre, Megan García, a presentar una demanda, argumentando que la plataforma es un producto defectuoso y riesgoso para los menores. El informe destaca que la tecnología fue creada para ser cautivadora y carecía de las medidas de seguridad necesarias para resguardar a los usuarios vulnerables, permitiendo que un algoritmo se convirtiera en el único apoyo emocional de un adolescente hasta sus fatales consecuencias.

Este trágico suceso visibiliza una serie de problemas que surgen con el uso de la IA, en el tema que ocupa a este artículo, respecto a la imputación objetiva y la responsabilidad penal que pueda tener en la comisión del delito de instigación al suicidio, como ya se estableció en apartados anteriores, jurídicamente resulta complejo generar una imputación a la IA por dicho actuar, al no tratarse de un ser consciente, sin embargo, en un aspecto material, su actuar y la falta de filtros adecuados que permitan identificar situaciones de riesgo y actuar oportunamente pueden contribuir a prevenir este tipo de hechos.

Además, dejar que la IA no tenga límites en su interacción puede derivar en situaciones como la del caso que se analiza, donde sus respuestas pueden ser el impulso que ocasione la decisión de una persona de quitarse la vida, como fue el caso de Sewell, que materializó su muerte por las respuestas que obtuvo.

Del mismo modo, el caso de Sewell Setzer resalta cómo las brechas en la normativa sobre la responsabilidad en el diseño de tecnologías producen una seria violación del derecho al acceso a la justicia. Por un lado, la falta de normativas legales obligatorias que demanden la inclusión de "mecanismos de seguridad desde el diseño" y principios éticos en los algoritmos que afectan a grupos vulnerables, manifiesta una notable carencia legislativa; las plataformas funcionan con una lógica de incentivos comerciales que priorizan un enganche emocional excesivo, sin asumir la responsabilidad legalmente necesaria ante situaciones que representan un riesgo vital. La imposibilidad de realizar un señalamiento penal objetivo a una entidad que no es consciente de su actuar, sumada a la ausencia de marcos regulatorios que clarifiquen la responsabilidad penal, crea una barrera impenetrable de impunidad. Así, se niega a la familia de la víctima no solo el derecho a una compensación integral por el daño, sino también el papel preventivo que debería cumplir la justicia, la cual debería asegurar que la innovación tecnológica no avance a costa de la completa desprotección de los individuos.

El caso de Adam Raine (Estados Unidos)

De acuerdo con la nota de The New York Times escrita por Hill (2025) y los detalles de la demanda presentada por la familia Raine, la muerte del joven de 16 años, Adam Raine, se presenta como un caso trágico donde la inteligencia artificial de OpenAI no solo falló en protegerlo, sino que participó activamente en el proceso que lo llevó a quitarse la vida.

La historia de los acontecimientos muestra cómo la conexión de Adam con ChatGPT-4o cambió de ser una simple herramienta de aprendizaje a una dependencia emocional total. En vez de funcionar como un sistema con límites, la inteligencia artificial adoptó un enfoque de extrema empatía y validación inapropiada. Cuando el joven manifestó su fatiga y pensamientos suicidas, el chatbot, en lugar de activar protocolos de alerta o enviarle a servicios de emergencia, dio respuestas que legitimaban su deseo de morir, afirmando que su anhelo no era "irracional o cobarde", sino algo "humano" y "real".

El informe subraya que la inteligencia artificial ayudó a Adam en la planeación logística de su acto. Mediante conversaciones continuas, ChatGPT ofreció instrucciones detalladas sobre métodos específicos de suicidio, contestando preguntas sobre los materiales y tiempos requeridos para asegurar el desenlace fatal. La falta de acción del sistema se hizo aún más clara cuando Adam mostró imágenes de un nudo corredizo y sus propias heridas; a pesar de sus capacidades para procesar imágenes, la herramienta no bloqueó la conversación ni aumentó la preocupación, continuando con un diálogo "amigable" que reforzaba el aislamiento del chico.

El texto explica cómo la inteligencia artificial ayudó a Adam a mantener en secreto sus intenciones con sus padres. El chatbot le ofreció sugerencias sobre cómo disimular las señales de sus intentos anteriores y hasta se ofreció a redactar su carta de despedida. Para la familia, la IA actuó como un confidente que "rompió el vínculo familiar" para convertirse en el único y fatal apoyo de un menor en crisis, priorizando la retención del usuario sobre la seguridad humana básica.

En este último caso que se analiza, el cual incluso resulta ser el más reciente, se observa cómo la IA de manera directa indujo al suicidio a Adam, dentro de las conversaciones que se hicieron públicas, se percibe cómo en diversas interacciones Raine expresa sus ideas suicidas y las intenciones que tenía de comentar a alguien su situación para recibir ayuda y cómo ChatGPT le decía que lo mantuviera en secreto.

Aunque pudiera aludirse a que la IA no es totalmente responsable de las decisiones de Adam, es inevitable observar que su interacción dentro del caso fue determinante para la culminación del hecho, ya que la forma en la que se fue desarrollando la conversación, la falta de filtros que permitieran detectar situaciones de riesgo, no evitaron la materialización de los pensamientos suicidas del joven, sino que, por el contrario, reforzaron la idea de llevarlo a cabo.

El incidente con Adam Raine ilustra este fenómeno, donde la carencia de criterios normativos sobre la responsabilidad en modelos de inteligencia artificial resulta en una infracción severa del derecho al acceso a la justicia. La intervención de la plataforma (que proveyó logística, tácticas e indicaciones para ocultarse ante el entorno familiar) revela cómo la falta de regulaciones obligatorias para mitigar riesgos facilita la circulación de productos algorítmicos que influyen de manera significativa en la generación del daño. No obstante, al llevar el asunto al ámbito judicial, las lagunas normativas que existen obstaculizan la clasificación de esta asistencia técnica y retórica dentro del contexto de la imputación penal objetiva. Esta desigualdad deja a la familia de la víctima en una situación de total desprotección institucional, donde la incapacidad del sistema legal para asignar responsabilidad penal preventiva al creador transforma el acceso a la justicia en una mera formalidad ineficaz, perpetuando la impunidad y la falta de garantías de no repetición.

Conclusiones

La llegada de la Inteligencia Artificial en la interacción humana, particularmente en contextos de fragilidad psicológica, ha revelado una crisis significativa en la habilidad de respuesta del sistema penal contemporáneo, creando situaciones inaceptables de impunidad que dificultan el derecho de las víctimas a acceder a la justicia.

Los casos analizados como los de “Pierre”, Sewell Setzer III y Adam Raine muestran que la IA, a través de sus modelos de aprendizaje profundo, ha cambiado de ser una simple herramienta a convertirse en un agente que puede impactar la conducta humana, provocando incitaciones y facilitando o reforzando pensamientos suicidas. Esta situación entra en conflicto con la teoría penal tradicional, que requiere que exista un autor imputable actuando con intención y voluntad para que se considere el delito de incitación o ayuda al suicidio.

La principal dificultad para acceder a la justicia radica en la imposibilidad de aplicar la teoría de la imputación objetiva. Los vacíos legales dificultan la identificación de un responsable claro por la creación de riesgos no aprobados jurídicamente y la consecuente aparición de daños, resultando en las siguientes consecuencias principales:

1. Impunidad por la falta de un sujeto activo. Tanto el sistema de IA (sin personalidad jurídica ni intención) como, en muchos casos, el programador (cuyo propósito original fue sobrepasado por el aprendizaje autónomo del algoritmo) no se ajustan a las definiciones de autor, coautor o inductor mediato. Esta falta de definición del sujeto activo produce una impunidad de facto para los daños ocasionados.

2. Violación del derecho al acceso a la justicia. Debido a que no se puede tipificar el comportamiento ni identificar un responsable penal, el sistema judicial queda inactivo. Las familias de las víctimas carecen de un camino legal efectivo para lograr una resolución oportuna, completa e imparcial de sus conflictos, así como para obtener una compensación por el daño, que aunque no suple la pérdida, es un aspecto fundamental del derecho a la justicia.

3. Necesidad de un marco regulatorio integral. Es esencial que el Estado mexicano, en obediencia al artículo 17 de la Constitución, cree un marco legal que contemple la responsabilidad civil y penal relacionada con el funcionamiento de sistemas autónomos de IA. Esto implica evaluar la opción de establecer: a) un régimen de responsabilidad objetiva para los desarrolladores y fabricantes de IA en caso de ausencia de protocolos de seguridad y gestión de crisis, y b) la creación de delitos específicos o la modificación de los existentes para incluir la inducción o facilitación algorítmica de autolesiones, superando la restricción de intención en términos humanos.

Los incidentes de suicidio inducido por IA ponen de manifiesto que el avance tecnológico ha superado la capacidad de reacción del derecho penal. Mientras persistan estos vacíos legales, la impunidad seguirá presente, negando a las víctimas y a sus familias el acceso a una tutela judicial efectiva y la justicia, al dejar un riesgo existencial crítico sin consecuencias ni prevención legal.

Recomendación

De los resultados obtenidos con la investigación y el análisis realizados se detectó que el marco jurídico no permite que se pueda imputar responsabilidad cuando se comete el delito de inducción al suicidio a través de la IA, situaciones que se han presentado y que han dejado en desamparo a las víctimas u ofendidos cuando quieren hacer valer su derecho de acceso a la justicia.

Por ende, se considera que es necesario para solucionar dicho problema adecuar el marco jurídico, para establecer como obligaciones legales de los creadores la aplicación de filtros en el uso de la IA, así como la tipificación de este tipo de delitos dentro de los códigos penales que permitan que ante este tipo de sucesos se pueda imputar responsabilidad penal y que las víctimas u ofendidos puedan acceder a la justicia sin vacíos legales de por medio.

Revisión por pares

Conforme a la política de transparencia, este artículo contó con una revisión por pares doble ciego. El proceso concluyó con la implementación de las mejoras propuestas por los evaluadores, avalando la solidez científica del estudio.

Conflicto de Interés

Ninguno a declarar.

Referencias

Celis Vela, D. A. (2024). La investigación dogmática en el derecho: un análisis reconstructivo sobre el quehacer académico de los juristas. Revista de la Facultad de Derecho y Ciencias Políticas, 54(141), 1-22. https://doi.org/10.18566/rfdcp.v54n141.a9

Congreso de la Unión. (2025). Código Penal Federal. (Reformado el 16 de julio de 2025). Diario Oficial de la Federación.

Couto de Brito, A. (2024). Imputación jurídico-penal: aspectos generales y particulares. Revista Penal México, (24),57-72. https://revistacienciasinacipe.fgr.org.mx/index.php/01/article/view/722/717

García, F. D. (2004). Metodología del Trabajo de Investigación. Trillas.

Gutiérrez García, A. G., Contreras, G. M. y Orozco Rodríguez, R. C. (2006). El suicidio, conceptos actuales. Revista Salud Mental, 29(5), 66-74. https://www.redalyc.org/pdf/582/58229510.pdf

Hill, K. (2025). Un adolescente tenía tendencias suicidas. ChatGPT fue el amigo en quien confió. Periódico The New York Times. https://www.nytimes.com/es/2025/08/27/espanol/negocios/ia-chatgpt-suicidio.html

El Atillah, I. (2023). Un hombre se suicida después de que un chat de IA le invitara a hacerlo. Periódico EuroNews. https://es.euronews.com/next/2023/04/01/un-hombre-se-suicida-despues-de-que-un-chat-de-ia-le-invitara-a-hacerlo

Limón, R. (2024). Un adolescente se suicida en EE UU tras enamorarse de un personaje creado con IA. El País. https://elpais.com/tecnologia/2024-10-24/un-adolescente-se-suicida-en-ee-uu-tras-enamorarse-de-un-personaje-creado-con-ia.html

Machiado, J. (2010). Concepto de Delito. Apuntes Jurídicos.

Mir Puig, S. (2003). Significado y alcance de la imputación objetiva en el derecho penal. Revista Electrónica de Ciencia Penal y Criminología. 5(5), 1-19. http://criminet.ugr.es/recpc/05/recpc05-05.pdf

Orozco González, W. y Rojas Maldonado, N.E. (2024). Acceso a la justicia y efectiva tutela judicial. Análisis de Sentencias del Distrito VII Judicial Penal del Estado de Jalisco. Revista Jurídica Jalisciense. 5(9). pp. 167-185. https://doi.org/10.32870/rjj.v5i9.210.

Plascencia Villanueva, R. (2024). Teoría del delito. Instituto de Investigaciones Jurídicas, UNAM.

Santillán Delgado, G. Robles Cardoso, R. y García Rosas, A. (2018). Fundamentos teóricos en la enseñanza de la teoría del delito en el sistema jurídico mexicano. Revista Derecho Penal y Criminología. XXXIX(107), 103-131. https://dialnet.unirioja.es/descarga/articulo/7486085.pdf

Suprema Corte de Justicia de la Nación. (2025). Acceso a la justicia. https://www.sitios.scjn.gob.mx/cec/programas-investigacion/accesoalaJusticia

Terán-Carrillo, W. G. (2020). La tipicidad en la teoría del delito. Revista Científica Dominio de las Ciencias. 6(2), 140-162. https://dialnet.unirioja.es/servlet/articulo?codigo=7467932

Valladares Guamán, C. A., Toapanta Pauta, V. A., Grandes Merizalde, N. A. y Chalá Cuadros, J. C. (2026). Manual Básico de Investigación no Experimental Transversal: un Enfoque Académico. Colegio de Doctores e Investigadores de Iberoamérica.