Lección 126 de 170

La IA puede contribuir, pero no es responsable

Curso de desarrollo de videojuegos con IA

Define la propiedad, la aprobación, la revisión y los derechos de decisión para que la producción asistida por IA mantenga la responsabilidad humana.

1831. Identidad de la lección

Módulo
4.12 — Equipo y roles
Lección
La IA puede contribuir, pero no es responsable
Tipo académico
Concepto
Tipo de esquema
texto
Orden
Lección 1 del módulo
Tiempo estimado
30–40 minutos, incluida la práctica

1832. Objetivo de aprendizaje

Al finalizar esta lección, podrás asignar una persona responsable, una revisora, una aprobadora y un límite de decisión para un conjunto de decisiones de producción asistidas por IA.

1833. Por qué importa

La IA puede proponer código, contenido, pruebas, planes y alternativas con rapidez. No puede responder por si una decisión es adecuada para el juego, el equipo o el plan de entrega. Cuando la propiedad de una decisión no está definida, el equipo puede confundir una salida generada con una decisión aprobada. Los roles explícitos permiten usar la IA de forma intensiva sin trasladar el juicio, la aprobación ni las consecuencias a una herramienta.

1834. Conocimientos previos

Debes haber completado 4.11 L3 — Build the Stage 4 delivery plan. Debes poder describir un elemento de entrega, la evidencia que exige, su responsable, su revisor y la respuesta cuando falta parte del alcance requerido.

1835. Concepto central

La participación de la IA y la responsabilidad humana son cosas distintas.

Un sistema de IA puede aportar una opción, un borrador, un análisis, una implementación o un resultado de prueba. Una persona debe seguir siendo dueña de la decisión: definir qué es aceptable, comprobar la evidencia, aprobar el resultado y decidir qué ocurre cuando el resultado es incompleto o incorrecto.

Para cada decisión de producción importante, separa cuatro responsabilidades:

  • Responsable: La persona que impulsa la decisión hasta un estado utilizable y se asegura de que exista la evidencia necesaria.
  • Colaborador: Una persona o herramienta que aporta análisis, implementación, alternativas u otros insumos. La IA puede ser colaboradora.
  • Revisor: La persona que examina la decisión o la evidencia según criterios explícitos y registra sus observaciones.
  • Aprobador: La persona con autoridad para aceptar o rechazar la decisión dentro del alcance definido. El responsable y el aprobador pueden ser la misma persona solo si el equipo acepta conscientemente esa configuración.

Estos roles describen la responsabilidad sobre una decisión, no simplemente quién modificó un archivo. Pedirle una propuesta a la IA no convierte automáticamente a alguien en responsable de la decisión resultante. Del mismo modo, una persona puede delegar la implementación y conservar la responsabilidad sobre el resultado.

1836. Modelo mental

Usa la ficha de derechos de decisión para cada decisión de producción con consecuencias:

Campo Pregunta que debe responder
Decisión ¿Qué debe decidirse exactamente?
Responsable ¿Qué persona impulsa el asunto y garantiza que haya evidencia?
Colaboradores ¿Quién o qué puede aportar información o implementación?
Criterio de revisión ¿Qué debe comprobarse antes de aprobar?
Revisor ¿Qué persona realiza esa comprobación?
Aprobador ¿Qué persona puede aceptar o rechazar la decisión?
Límite ¿Qué queda fuera de su autoridad?
Evidencia ¿Qué artefacto demuestra que hubo revisión?
Escalamiento ¿Qué ocurre si falta evidencia o los roles no coinciden?

La secuencia reutilizable es:

ASIGNAR → CONTRIBUIR → REVISAR → APROBAR → REGISTRAR

La IA puede participar en CONTRIBUIR y ayudar a preparar material para REVISAR. No sustituye los roles humanos de ASIGNAR, APROBAR ni la responsabilidad que queda reflejada al REGISTRAR.

1837. Ejemplo concreto

Supón que el equipo debe decidir si un nuevo comportamiento de enemigo entra en el siguiente bloque de entrega.

  • La responsable es la líder de gameplay. Define la decisión, reúne la evidencia de las pruebas y mantiene el asunto en movimiento.
  • Un asistente de IA es un colaborador. Propone reglas de comportamiento, casos límite y una lista de pruebas.
  • Una diseñadora es colaboradora y comprueba si el comportamiento apoya la experiencia de juego prevista.
  • Un programador es colaborador, implementa una versión candidata e informa de las restricciones técnicas.
  • La responsable de QA es la revisora. Prueba el comportamiento según los criterios acordados y registra fallos o riesgos pendientes.
  • La responsable de producción es la aprobadora para incluirlo en el bloque de entrega. Puede rechazar la decisión si la evidencia está incompleta o si se excede el límite de alcance.

La lista de pruebas generada por la IA puede ser útil, pero no aprueba el comportamiento. Si la lista omite un caso límite, la responsable y la revisora deben detectar esa carencia. El equipo no puede atribuir la responsabilidad a la IA porque la IA sugirió la prueba.

Ejemplo de responsabilidad técnica

Un asistente de IA propone una implementación y una programadora humana registra el cambio en un commit. El equipo asigna a la programadora como responsable de la decisión técnica, asigna a otra persona como revisora y restringe la rama protegida para que el cambio no pueda integrarse sin esa revisión. La autoría del commit muestra quién creó o registró el cambio; por sí sola no demuestra una responsabilidad completa, ni la revisión ni la aprobación.

Relaciona esta situación con la ficha de derechos de decisión: la decisión es determinar si el cambio cumple los criterios de aceptación establecidos; entre los colaboradores pueden estar la IA y la programadora; la responsable es la persona humana designada para responder por el cambio y su evidencia; la revisora responde por la revisión técnica; los permisos de la rama hacen cumplir parte del límite de aprobación; y el registro de la revisión constituye la evidencia. Un permiso técnico respalda el proceso, pero no sustituye una decisión humana ni hace responsable a la IA.

1838. Flujo de trabajo nativo de IA

Usa la IA como colaboradora con límites, no como una decisora invisible:

  1. Expón la decisión, el alcance, las restricciones y los criterios de aceptación.
  2. Pide a la IA alternativas, riesgos, casos faltantes o un borrador de artefacto.
  3. Compara la salida con la ficha de derechos de decisión y con los requisitos reales del juego.
  4. Haz que la revisora humana nombrada examine la evidencia pertinente.
  5. Haz que la aprobadora nombrada acepte, rechace o solicite cambios.
  6. Registra la decisión humana, la evidencia utilizada y cualquier incertidumbre pendiente.

Un buen prompt pide a la IA que haga visibles sus incertidumbres en vez de atribuirse autoridad:

“Para esta decisión, enumera opciones posibles, supuestos, casos de fallo y la evidencia que deberíamos recopilar. No elijas la opción final. Mantén la recomendación dentro del alcance indicado.”

Trata la respuesta como un insumo para el juicio. No describas una recomendación generada por IA como una aprobación, una revisión o una decisión del equipo.

1839. Error común

El error más frecuente es asignar a una herramienta un rol que requiere autoridad: “la IA revisó el cambio”, “el asistente aprobó el plan” o “la prueba generada demuestra que la funcionalidad está lista”. Un análisis generado puede apoyar una revisión, pero revisar exige que una persona aplique criterios. Aprobar exige que una persona con derechos de decisión acepte el resultado. Si no se nombra a nadie, falta responsabilidad.

Otro error es nombrar a una única persona como responsable sin definir qué puede decidir. La responsabilidad sin límites produce vetos ocultos o autoridad accidental. Declara tanto la obligación como el límite.

1840. Práctica guiada

Crea fichas de derechos de decisión para tres decisiones de producción asistidas por IA tomadas del plan de entrega de la Etapa 4. Elige decisiones de categorías distintas, por ejemplo:

  1. aceptar un cambio de código asistido por IA,
  2. elegir entre dos opciones de contenido generadas, y
  3. cambiar el alcance de un elemento de entrega después de que una revisión detecte un riesgo.

En cada ficha, escribe:

  • la decisión exacta,
  • una persona responsable,
  • la posible contribución de la IA,
  • la persona revisora y el criterio de revisión,
  • la persona aprobadora,
  • el límite de autoridad,
  • la evidencia exigida, y
  • el camino de escalamiento si la revisora y la responsable discrepan.

Después prueba cada ficha con esta pregunta: ¿Podría alguien ajeno al equipo identificar quién debe responder si la decisión causa un problema? Si la respuesta es no, revisa el responsable, el límite o el camino de escalamiento.

1841. Validación / evidencia

Tu evidencia consiste en tres fichas de derechos de decisión completas. Cada ficha debe:

  • nombrar a una persona responsable y a una persona aprobadora,
  • distinguir la contribución de la revisión,
  • indicar un criterio de revisión en lugar de limitarse a nombrar a un revisor,
  • definir un límite de autoridad,
  • identificar evidencia que pueda inspeccionarse, y
  • especificar qué ocurre cuando falta evidencia o los roles discrepan.

Una ficha no está completa si solo dice “el equipo lo revisa” o “la IA comprueba el resultado”. La decisión debe poder rastrearse hasta una persona que tenga la autoridad y la obligación de actuar.

1842. Ideas clave

  • La IA puede aportar análisis, borradores, implementaciones y alternativas; no puede asumir responsabilidad humana.
  • Ser responsable significa impulsar una decisión y garantizar que exista evidencia.
  • Revisar implica aplicar criterios explícitos; aprobar implica tener autoridad para aceptar o rechazar dentro de un límite.
  • La autoría de un commit identifica una acción técnica, pero no constituye una responsabilidad completa sin revisión, aprobación y derechos de decisión asignados.
  • Toda decisión de producción asistida por IA con consecuencias necesita derechos de decisión humanos y un camino de escalamiento.
  • Registra la decisión humana y su evidencia; no trates una salida generada como una aprobación.

1843. Próxima lección

Continúa con 4.12 L2 — Haz visibles las transferencias de trabajo.

1844. Comprobación

Responde estas preguntas por tu cuenta antes de leer las respuestas.

¿Qué afirmación distingue mejor la contribución de la IA de la responsabilidad humana?

  • A. La IA puede aportar opciones o implementación, pero una persona nombrada debe revisar y aprobar la decisión dentro de un límite definido.
  • B. La IA es responsable siempre que su resultado se utilice en producción.
  • C. La persona que escribe el prompt es automáticamente la aprobadora.
  • D. Una lista generada elimina la necesidad de una persona revisora.
Mostrar respuesta y explicación

Respuesta: La IA puede aportar opciones o implementación, pero una persona nombrada debe revisar y aprobar la decisión dentro de un límite definido.

Por qué: La IA puede aportar material útil, pero los roles humanos siguen definiendo los criterios, examinando la evidencia y aceptando o rechazando la decisión.

¿Cuál es la responsabilidad principal de la persona responsable en una ficha de derechos de decisión?

  • A. Generar todas las implementaciones posibles.
  • B. Aprobar todas las decisiones del equipo.
  • C. Impulsar la decisión y garantizar que exista la evidencia necesaria.
  • D. Mantenerse informado sin tomar ninguna acción.
Mostrar respuesta y explicación

Respuesta: Impulsar la decisión y garantizar que exista la evidencia necesaria.

Por qué: La persona responsable se ocupa del avance y de la evidencia. Eso no le concede automáticamente autoridad ilimitada para aprobar.

¿Cuál de estas entradas es un criterio de revisión válido?

  • A. Alguien lo comprueba.
  • B. La funcionalidad se comporta según los casos de aceptación documentados, con los fallos registrados y los riesgos pendientes identificados.
  • C. La IA dice que el resultado parece correcto.
  • D. El equipo se siente cómodo con ello.
Mostrar respuesta y explicación

Respuesta: La funcionalidad se comporta según los casos de aceptación documentados, con los fallos registrados y los riesgos pendientes identificados.

Por qué: Un criterio de revisión debe describir qué se comprobará y qué evidencia o riesgo pendiente debe registrarse.

Una persona revisora descubre que falta evidencia obligatoria. ¿Qué debe ocurrir después?

  • A. Tratar la salida de la IA como la evidencia que falta.
  • B. Aprobar la decisión porque la persona responsable se encarga de ella.
  • C. Eliminar la decisión del plan de entrega sin registrar el motivo.
  • D. Seguir el camino de escalamiento definido, registrar la carencia y solicitar la evidencia faltante o una decisión consciente sobre el alcance.
Mostrar respuesta y explicación

Respuesta: Seguir el camino de escalamiento definido, registrar la carencia y solicitar la evidencia faltante o una decisión consciente sobre el alcance.

Por qué: La falta de evidencia es una condición de producción que exige una respuesta registrada, no una aprobación automática ni una eliminación silenciosa.

Apoyar