01Propósito, alcance y posicionamiento institucional
En SEIUM no solo enseñamos ingeniería: la construimos junto a socios industriales y reguladores, en laboratorios acreditados y con estándares reales. Trabajar aquí significa
Garantizar que toda la actividad académica, de investigación y de relación con terceros cumple el derecho internacional humanitario, los derechos humanos, la legislación aplicable y nuestras políticas internas; reducir al mínimo el riesgo de uso indebido; y proteger a las personas, a los colectivos y al interés público.
Alumnado, profesorado, personal técnico, personal de administración, colaboradores, becarios, invitados, contratistas y socios (empresas, instituciones y organismos públicos). Se aplica a contenidos, datos, software, equipos, investigación, publicaciones y transferencia de tecnología.
No enseñamos ni desarrollamos tácticas, doctrina ni procedimientos operativos (TTP: tácticas, técnicas y procedimientos). Nuestro trabajo se centra en la ingeniería, la seguridad, la certificación, la ética y la validación.
Quedan excluidos el diseño, la optimización y la formación relacionados con capacidades ofensivas, letalidad, guiado de armamento, explotación de vulnerabilidades fuera del marco legal o elusión deliberada de las salvaguardas regulatorias.
Los principios de distinción, proporcionalidad y precaución del derecho internacional humanitario; los Principios Rectores de las Naciones Unidas sobre las Empresas y los Derechos Humanos; las Líneas Directrices de la OCDE sobre diligencia debida; y la normativa nacional e internacional aplicable.
02Principios rectores
Primero, no causar daño
Evaluación preventiva de los riesgos humanos, sociales y ambientales.
Legalidad y legitimidad
Cumplimiento de la normativa más justificación ética explícita («no todo lo legal es legítimo»).
Supervisión humana significativa
Control humano real en los sistemas autónomos y de toma de decisiones.
Transparencia y trazabilidad
Decisiones documentadas y auditorías de comités internos y, cuando procede, externos.
Privacidad y dignidad
Minimización de datos, privacidad desde el diseño y protección de colectivos vulnerables.
Equidad y no discriminación
Control de sesgos, aplicabilidad y acceso razonable a vías de reclamación.
Proporcionalidad y minimización de datos
Lo mínimo necesario para la finalidad académica o científica legítima.
Rendición de cuentas
Responsabilidades claras, canales de denuncia y medidas correctoras.
03Gobernanza: órganos y responsabilidades
Comité de Ética y Doble Uso (CEUD): órgano independiente que evalúa, clasifica y autoriza los proyectos y cursos sensibles. Lo integran especialistas en ética, ingeniería, derecho, derechos humanos, seguridad y privacidad, junto a estudiantes en calidad de observadores.
Oficina de Cumplimiento y Control de Exportaciones (OCE): clasifica tecnologías y datos (ITAR, EAR y doble uso), autoriza accesos y coordina las licencias.
Delegado de Protección de Datos (DPO): garantiza la realización de DPIA o PIA cuando intervienen datos personales o actividades de vigilancia, y supervisa las transferencias internacionales de datos.
Seguridad y Prevención en Laboratorio (HSE): vela por la salud, la seguridad y las condiciones físicas de los ensayos.
Dirección Académica: no aprueba planes docentes ni de investigación en ámbitos sensibles sin informe previo del CEUD, la OCE o el delegado de protección de datos.
Decision tree (simplified)
Proponente → tutor o investigador principal → CEUD (ética y doble uso) + OCE (exportación) + DPO (privacidad) → Vicerrectorado (aprobación) → ejecución con auditoría continua.
04Clasificación de las actividades
- Verde (riesgo bajo): contenido general, buenas prácticas civiles y conjuntos de datos sintéticos o anonimizados, sin aplicación aparente de doble uso.
- Ámbar (riesgo medio): autonomía, percepción, sistemas ciberfísicos y simulación táctica abstracta, con doble uso potencial y medidas de mitigación. Exige revisión del CEUD y control de accesos.
- Rojo (riesgo alto, prohibido): letalidad, guiado de armamento, elusión de salvaguardas, reidentificación de datos, operaciones reales y explotación ofensiva sin autorización legal. No se autoriza en SEIUM.
05Proceso de revisión ética (ciclo de vida)
Fase 0 — Idea
• Cribado inicial (lista de verificación sobre sensibilidad, derechos humanos y exportación). • Borrador de Evaluación de Impacto en Derechos Humanos (HRIA) si afecta a personas o colectivos.
Fase 1 — Propuesta
• Expediente ético: finalidad, beneficios, riesgos, medidas de mitigación, datos, partes interesadas y estándares aplicables. • Clasificación (verde, ámbar o rojo) por el CEUD y requisitos asociados, por ejemplo el uso de datos sintéticos.
Fase 2 — Diseño
• Plan de mitigación: anonimización o seudonimización, salas limpias de datos, segregación por necesidad de conocer, controles de exportación, limitación de uso, marcas de agua y fichas de modelo. • DPIA o PIA cuando intervienen datos personales, con plan de corrección de sesgos y validación.
Fase 3 — Ejecución
• Hitos de control con revisiones del CEUD, HSE y OCE. • Registro y trazas de auditoría, con mecanismos de parada para detener los ensayos.
Fase 4 — Resultados y difusión
• Revisión de publicación: qué se publica, cómo y con qué salvaguardas. • Licencias, condiciones de uso y advertencias.
Fase 5 — Cierre y lecciones aprendidas
• Informe final, revisión ética, plan de conservación y destrucción de datos, y lecciones aprendidas.
Diseño u optimización de efectos letales o de guiado de armamento.
Explotación de vulnerabilidades (ciber u OT) fuera de programas legalmente autorizados y sin coordinación responsable.
Vigilancia masiva, identificación biométrica indiscriminada o elaboración de perfiles de personas o colectivos.
Sistemas de armas autónomas que prescindan de control humano significativo sobre el uso de la fuerza.
Transferencia de tecnología o de datos sensibles a destinos, entidades o usos sujetos a restricción o embargo.
06Líneas rojas (no negociables)
07Gestión del doble uso y de la autonomía
- Limitación de capacidades: publicamos principios y resultados agregados, nunca parámetros críticos que puedan facilitar un uso malicioso.
- Los datos son sintéticos o anonimizados por defecto. Si se usan datos reales, exigen DPIA o HRIA, minimización y contratos de datos.
- Autonomía responsable: supervisión humana dentro o sobre el bucle, límites operativos, mecanismos a prueba de fallos, safety cases y assurance cases.
- Ciberseguridad defensiva: fortificación, detección, respuesta y resiliencia. Nunca desarrollo ofensivo.
08Relación con socios: contratos y memorandos de entendimiento
- Cláusula de DIH y derechos humanos: uso exclusivamente académico y civil; queda prohibido cualquier fin ofensivo.
- Doble uso y exportación: clasificación preliminar y control de acceso según nacionalidad y destino final.
- Datos y privacidad: titularidad, permisos, minimización, transferencias, conservación y borrado.
- Publicación: revisión previa, eliminación de detalles sensibles y embargo cuando proceda.
- Auditoría y resolución: derecho a auditar y a resolver el acuerdo en caso de incumplimiento.
Restauración de motos históricas: conservación frente a restauración total
Automatización y control en plantas de tratamiento de agua: lazos, instrumentación y SCADA
Urbanismo con perspectiva de género: qué cambia en el diseño de la ciudad
Alumbrado público inteligente: telegestión, eficiencia y qué se gana de verdad
SCADA fotovoltaico y performance ratio: qué se mide y cómo se interpreta
Drones de ala fija: cuándo compensan frente al multirrotor y cómo se planifica el vuelo
09Formación obligatoria
Principios, casos límite, señales de alerta y banderas rojas.
Evaluaciones de impacto (DPIA), anonimización, sesgos, explicabilidad y derechos ARCO/DSAR.
Clasificación de productos, verificación de la contraparte, licencias y control de los flujos económicos.
Procedimientos de seguridad, manejo de sustancias y equipos, y respuesta ante incidentes.
Buenas prácticas, diseño seguro desde el origen (secure by design) y respuesta ante incidentes.
Todo el personal y el alumnado que participe en proyectos sensibles debe mantener su formación al día; de no hacerlo, se suspende el acceso a los recursos y repositorios.
10Publicación, comunicación y ciencia abierta
Preferimos la transparencia siempre que no ponga en riesgo a las personas, la seguridad o el cumplimiento normativo.
Publicamos datos agregados y resultados resumidos, omitiendo los parámetros críticos.
Cada publicación indica finalidad, limitaciones, uso previsto, usos excluidos y riesgos residuales.
Evitamos prometer de más: situamos siempre los riesgos y las salvaguardas en su contexto.
11SEIUM
Creemos que la excelencia técnica sin responsabilidad no es excelencia. Por eso toda la docencia y la investigación se someten a un marco sólido de ética, Derecho Internacional Humanitario (DIH) y derechos humanos, con líneas rojas claras, comités independientes, procesos auditables y una cultura de «parar la línea» cuando algo no encaja. Nuestro compromiso es formar y desarrollar ingeniería segura, legítima y socialmente útil —de la carretera a la órbita— sin cruzar los límites que protegen la vida, la dignidad y el Estado de derecho.
12Incidencias, reclamaciones y sanciones
- Canal de denuncias confidencial (whistleblowing), con protección del denunciante y un plazo de respuesta de 72 horas o menos.
- Response protocol: containment, investigation, reporting (if applicable), remediation, and lessons learned.
- Régimen sancionador: desde la retirada de permisos de acceso y la suspensión académica hasta la rescisión del contrato o la comunicación a las autoridades, según la gravedad del incumplimiento.
13Métricas y transparencia
- Percentage of projects classified (green/yellow/red).
- Porcentaje de proyectos con HRIA o DPIA y con medidas de mitigación efectivas.
- Número de expedientes revisados por el CEUD y plazos de resolución.
- Up-to-date compliance training (target: 100%).
- Critical incidents (target: 0).
- Publicaciones con ficha de modelo y de datos, y declaración de doble uso.
- Informe anual público con indicadores agregados y planes de mejora.
Restauración de motos históricas: conservación frente a restauración total
Automatización y control en plantas de tratamiento de agua: lazos, instrumentación y SCADA
Urbanismo con perspectiva de género: qué cambia en el diseño de la ciudad
Alumbrado público inteligente: telegestión, eficiencia y qué se gana de verdad
SCADA fotovoltaico y performance ratio: qué se mide y cómo se interpreta
Drones de ala fija: cuándo compensan frente al multirrotor y cómo se planifica el vuelo
14Casos prácticos (guía de aplicación)
15Anexos operativos (disponibles en el portal interno)
Permitido con salvaguardas (ámbar):
• Algoritmos de evitación de obstáculos para vehículos terrestres no tripulados civiles: datos sintéticos, supervisión humana, safety case y límites de velocidad y entorno. • Evaluación de la resiliencia GNSS/INS para logística: ensayos en banco controlado, sin comprometer la seguridad pública.
Allowed (green):
• Diseño de cabinas con foco en ergonomía e interfaz persona-máquina para jornadas prolongadas: experiencia de uso y factores humanos. • Metodologías RAMS y certificación (UNECE, EASA, IMO, IAEA) en el plano académico.
Not allowed (red)
• Optimización del guiado terminal de munición: no se realiza. • Uso de autómatas industriales fuera de un marco legal de investigación coordinada: no se realiza.
- Ethical Sensitivity/Dual-Use Checklist (v1.3)
- Ethics Dossier Template (HRIA + DPIA Lite)
- Green/Amber/Red Classification Matrix
- Guía de datos sensibles y despersonalización
- Cláusulas contractuales tipo (DIH y derechos humanos, exportación, datos y publicación)
- Guía de publicación responsable (fichas de modelo y de datos)
- Procedimiento ante incidentes y revisión posterior
