diff --git a/backend/app/api/routes/frameworks.py b/backend/app/api/routes/frameworks.py index 9c1d8e0..1506deb 100644 --- a/backend/app/api/routes/frameworks.py +++ b/backend/app/api/routes/frameworks.py @@ -5,9 +5,15 @@ from app.api.dependencies import get_current_user from app.core.database import get_db +from app.models.document import Document, DocumentDefinition from app.models.framework import Framework from app.models.user import User -from app.schemas.framework import FrameworkResponse +from app.schemas.framework import ( + AddFrameworkRequest, + AvailableFrameworkResponse, + FrameworkResponse, +) +from app.services.seed import SEED_FRAMEWORKS, _load_knowledge router = APIRouter(prefix="/api/frameworks", tags=["frameworks"]) @@ -34,6 +40,57 @@ def list_frameworks( return [_to_response(fw) for fw in frameworks] +@router.get("/available", response_model=list[AvailableFrameworkResponse]) +def list_available_frameworks( + db: Session = Depends(get_db), + _current_user: User = Depends(get_current_user), +): + existing_names = {name for (name,) in db.query(Framework.name).all()} + return [ + {"name": fw["name"], "description": fw["description"], "category": fw["category"]} + for fw in SEED_FRAMEWORKS + if fw["name"] not in existing_names and fw["name"] != "EU AI Act" + ] + + +@router.post("", response_model=FrameworkResponse) +def add_framework( + body: AddFrameworkRequest, + db: Session = Depends(get_db), + _current_user: User = Depends(get_current_user), +): + seed_data = next((fw for fw in SEED_FRAMEWORKS if fw["name"] == body.name), None) + if not seed_data: + raise HTTPException(status_code=404, detail="Framework not found in catalogue") + + if db.query(Framework).filter(Framework.name == body.name).first(): + raise HTTPException(status_code=409, detail="Framework already exists") + + fw = Framework( + name=seed_data["name"], + description=seed_data["description"], + category=seed_data["category"], + status=seed_data["status"], + content=_load_knowledge(seed_data["name"]), + ) + db.add(fw) + db.flush() + + for doc_data in seed_data["documents"]: + db.add( + DocumentDefinition( + framework_id=fw.id, + name=doc_data["name"], + description=doc_data["description"], + article=doc_data["article"], + ) + ) + + db.commit() + db.refresh(fw) + return _to_response(fw) + + @router.get("/{framework_id}", response_model=FrameworkResponse) def get_framework( framework_id: uuid.UUID, @@ -44,3 +101,25 @@ def get_framework( if not fw: raise HTTPException(status_code=404, detail="Framework not found") return _to_response(fw) + + +@router.delete("/{framework_id}") +def delete_framework( + framework_id: uuid.UUID, + db: Session = Depends(get_db), + _current_user: User = Depends(get_current_user), +): + fw = db.query(Framework).filter(Framework.id == framework_id).first() + if not fw: + raise HTTPException(status_code=404, detail="Framework not found") + + if fw.name == "EU AI Act": + raise HTTPException(status_code=403, detail="This framework cannot be removed") + + def_ids = [d.id for d in fw.document_definitions] + if def_ids: + db.query(Document).filter(Document.definition_id.in_(def_ids)).delete() + + db.delete(fw) + db.commit() + return {"detail": "Framework deleted"} diff --git a/backend/app/schemas/framework.py b/backend/app/schemas/framework.py index dd130b9..31d5998 100644 --- a/backend/app/schemas/framework.py +++ b/backend/app/schemas/framework.py @@ -4,6 +4,16 @@ from pydantic import BaseModel, ConfigDict +class AvailableFrameworkResponse(BaseModel): + name: str + description: str + category: str + + +class AddFrameworkRequest(BaseModel): + name: str + + class FrameworkResponse(BaseModel): model_config = ConfigDict(from_attributes=True) diff --git a/backend/app/services/sample_evidence_en.py b/backend/app/services/sample_evidence_en.py index 107b387..f060ec2 100644 --- a/backend/app/services/sample_evidence_en.py +++ b/backend/app/services/sample_evidence_en.py @@ -760,74 +760,4 @@ "undp-framework-alignment-FA-15-0": "The system is registered in the EU AI database with all required fields completed, including provider and deployer information.", "undp-framework-alignment-FA-16-0": "A Council of Europe HUDERIA-style assessment has been conducted, addressing human rights and democracy impacts.", "undp-framework-alignment-FA-17-0": "The system complies with the Council of Europe AI Convention provisions on transparency, oversight, and accountability.", - # ========================================================================= - # ENVIRONMENTAL IMPACT FRAMEWORK — Energy & Carbon (Principle 1-2) - # ========================================================================= - "env-energy-carbon-EC-01-0": "Training energy was measured at 850 kWh for the initial model training run using GPU cluster power monitoring.", - "env-energy-carbon-EC-01-1": "The training energy mix comprises 78% renewable sources (wind and solar) from the data centre's certified green tariff.", - "env-energy-carbon-EC-02-0": "Inference energy is monitored per server; each recognition consumes approximately 0.003 kWh including camera and edge processing.", - "env-energy-carbon-EC-02-1": "Energy-per-query is tracked as a KPI; current rate is 10.8 kJ per recognition event including all system components.", - "env-energy-carbon-EC-03-0": "Total carbon footprint is estimated at 420 kg CO2e for training and 1.2 tonnes CO2e annually for inference across all sites.", - "env-energy-carbon-EC-03-1": "Scope 1 emissions are zero; Scope 2 covers data centre electricity; Scope 3 includes hardware manufacturing and logistics.", - "env-energy-carbon-EC-04-0": "A carbon reduction target of 20% by 2027 has been set, with progress reviewed quarterly against the baseline.", - "env-energy-carbon-EC-04-1": "Progress is tracked via quarterly carbon accounting; current trajectory shows a 12% reduction achieved since baseline.", - "env-energy-carbon-EC-05-0": "85% of operational energy comes from certified renewable sources; the target is 100% renewable by 2027.", - "env-energy-carbon-EC-05-1": "A commitment to increase renewable usage by 5% annually is documented in the environmental management plan.", - "env-energy-carbon-EC-06-0": "Residual emissions are offset through verified Gold Standard carbon credits; offset certificates are retained for audit.", - # ========================================================================= - # ENVIRONMENTAL IMPACT FRAMEWORK — Hardware (Principle 3) - # ========================================================================= - "env-hardware-HW-01-0": "Hardware selection prioritised NVIDIA T4 GPUs for their inference efficiency, consuming 70W versus 250W for alternatives.", - "env-hardware-HW-01-1": "Energy-efficient edge processing units reduce data centre load by performing initial face detection at the camera location.", - "env-hardware-HW-02-0": "GPU utilisation is monitored; inference workloads are batched during peak hours to maintain above 60% utilisation.", - "env-hardware-HW-02-1": "Off-peak workloads including model evaluation and reporting are scheduled for nighttime when renewable energy availability peaks.", - "env-hardware-HW-03-0": "Hardware refresh cycles are set at five years; servers are refurbished and redeployed to non-critical workloads after primary use.", - "env-hardware-HW-03-1": "Camera hardware is designed for a seven-year lifespan with modular lens replacement to extend operational life.", - "env-hardware-HW-04-0": "E-waste is managed through certified WEEE recycling partners with documented chain-of-custody and material recovery rates above 95%.", - "env-hardware-HW-04-1": "Hazardous materials in hardware are tracked via supplier declarations; RoHS compliance is verified for all components.", - "env-hardware-HW-05-0": "Supply chain sustainability is assessed during procurement; camera and server vendors provide annual sustainability reports.", - # ========================================================================= - # ENVIRONMENTAL IMPACT FRAMEWORK — Data Management (Principle 4) - # ========================================================================= - "env-data-management-DM-01-0": "Data storage efficiency is maximised by storing only facial templates (512 bytes each) rather than raw images after enrolment.", - "env-data-management-DM-01-1": "A retention policy automatically purges templates of departed employees within 30 days, minimising storage footprint.", - "env-data-management-DM-02-0": "Data transfer is minimised through edge processing; only compact feature vectors are transmitted to the central server.", - "env-data-management-DM-02-1": "Network transfer environmental cost is negligible due to small payload sizes (under 2 KB per recognition event).", - "env-data-management-DM-03-0": "Data centres are selected based on PUE rating (target below 1.3) and proximity to deployment sites to minimise latency and transfer.", - "env-data-management-DM-03-1": "Data centres are located in northern Europe to benefit from cooler ambient temperatures and higher renewable energy availability.", - "env-data-management-DM-04-0": "Data centre water usage effectiveness (WUE) is below 0.5 L/kWh, using free-cooling for 80% of the year.", - "env-data-management-DM-04-1": "Water-efficient cooling is prioritised; adiabatic cooling is used only during peak summer temperatures.", - # ========================================================================= - # ENVIRONMENTAL IMPACT FRAMEWORK — Model Efficiency (Principle 5) - # ========================================================================= - "env-model-efficiency-ME-01-0": "The model size (25M parameters) is justified by the accuracy requirements; a smaller MobileNet variant was evaluated but fell below the FAR threshold.", - "env-model-efficiency-ME-01-1": "Three smaller architectures were benchmarked; the selected model offers the best accuracy-to-compute ratio for the deployment scenario.", - "env-model-efficiency-ME-02-0": "Training efficiency uses mixed-precision (FP16) training, reducing GPU memory usage by 40% and training time by 30%.", - "env-model-efficiency-ME-02-1": "All training runs are documented with energy consumption, duration, and accuracy metrics to track efficiency improvements.", - "env-model-efficiency-ME-03-0": "Inference is optimised using TensorRT quantisation (INT8), reducing latency by 60% and energy consumption by 50%.", - "env-model-efficiency-ME-03-1": "The accuracy loss from INT8 quantisation is less than 0.1% FAR, validated as acceptable for the access control use case.", - "env-model-efficiency-ME-04-0": "Model retraining occurs biannually rather than continuously, using incremental fine-tuning on new enrolment data only.", - "env-model-efficiency-ME-04-1": "Incremental fine-tuning consumes 15% of the energy of full retraining while maintaining equivalent accuracy performance.", - "env-model-efficiency-ME-05-0": "Environmental efficiency is tracked as recognitions-per-kWh; current performance is 333 authentications per kWh.", - # ========================================================================= - # ENVIRONMENTAL IMPACT FRAMEWORK — Lifecycle (Principle 3, 6) - # ========================================================================= - "env-lifecycle-LC-01-0": "A lifecycle assessment covers the system from hardware manufacture through operation to decommissioning and disposal.", - "env-lifecycle-LC-01-1": "Embodied emissions from hardware manufacturing account for approximately 35% of the total lifecycle carbon footprint.", - "env-lifecycle-LC-02-0": "The decommissioning plan specifies secure data deletion, hardware recycling, and camera removal procedures.", - "env-lifecycle-LC-02-1": "Data deletion follows NIST 800-88 guidelines; hardware is sent to certified recycling facilities with documented material recovery.", - "env-lifecycle-LC-03-0": "Vendor sustainability is evaluated during procurement; data centre providers must demonstrate PUE below 1.3 and renewable energy usage.", - "env-lifecycle-LC-03-1": "SLA environmental criteria include uptime efficiency, power usage targets, and annual sustainability reporting obligations.", - "env-lifecycle-LC-04-0": "Circular economy practices include hardware refurbishment, component reuse, and material recovery at end of life.", - # ========================================================================= - # ENVIRONMENTAL IMPACT FRAMEWORK — Monitoring (Principle 6) - # ========================================================================= - "env-monitoring-EM-01-0": "Environmental KPIs include energy-per-recognition, total carbon emissions, hardware utilisation rate, and renewable energy percentage.", - "env-monitoring-EM-01-1": "KPIs are reviewed quarterly with annual targets set during the environmental management planning cycle.", - "env-monitoring-EM-02-0": "An annual environmental report discloses the system's energy consumption, carbon footprint, and sustainability initiatives.", - "env-monitoring-EM-02-1": "Reporting follows the GHG Protocol for carbon accounting and references ISO 14001 for environmental management practices.", - "env-monitoring-EM-03-0": "Continuous improvement identifies opportunities such as model compression, hardware upgrades, and cooling optimisation each year.", - "env-monitoring-EM-03-1": "Lessons learned from each improvement initiative are documented and shared across sites to accelerate sustainability gains.", - "env-monitoring-EM-04-0": "Environmental regulatory compliance is monitored; the system meets EU Energy Efficiency Directive requirements for ICT equipment.", - "env-monitoring-EM-05-0": "Sustainability targets are integrated into the project's KPI framework and reported alongside operational and compliance metrics.", } diff --git a/backend/app/services/sample_evidence_es.py b/backend/app/services/sample_evidence_es.py index 726fdc5..f9e6e85 100644 --- a/backend/app/services/sample_evidence_es.py +++ b/backend/app/services/sample_evidence_es.py @@ -586,62 +586,4 @@ "undp-risk-management-RMG-13-0": "Se registran todos los criterios de escala utilizados y la justificación de los rangos aplicados en cada evaluación de riesgo.", "undp-risk-management-RMG-14-0": "Todas las aportaciones de las partes interesadas están documentadas, incluyendo consultas con empleados y representantes sindicales.", "undp-monitoring-MI-03-0": "Se implementa detección de deriva del modelo mediante comparación mensual de distribuciones de puntuación de confianza con la línea base.", - # ── Environmental Impact: Energy & Carbon ─────────────────────────── - "env-energy-carbon-EC-01-0": "El consumo energético total del entrenamiento del modelo se ha medido y documentado: 450 kWh para el último ciclo de entrenamiento.", - "env-energy-carbon-EC-01-1": "La infraestructura de entrenamiento utiliza un 72% de energía renovable (eólica y solar) según el mix del centro de datos contratado.", - "env-energy-carbon-EC-02-0": "El consumo energético de inferencia se monitoriza continuamente: cada servidor consume ~0,8 kWh por hora de operación.", - "env-energy-carbon-EC-02-1": "Se monitorizan métricas de energía por solicitud: ~0,003 kWh por decisión de acceso en promedio.", - "env-energy-carbon-EC-03-0": "Se ha estimado la huella de carbono del sistema utilizando la metodología del GHG Protocol: 2,1 toneladas de CO₂e anuales por sede.", - "env-energy-carbon-EC-03-1": "Se consideran las emisiones de Alcance 1, 2 y 3, incluyendo la fabricación de hardware y el transporte de equipos.", - "env-energy-carbon-EC-04-0": "Se han establecido objetivos de reducción de la huella de carbono: 15% de reducción anual mediante optimización de modelos y hardware.", - "env-energy-carbon-EC-04-1": "El progreso respecto a los objetivos de reducción de carbono se revisa semestralmente con el comité de sostenibilidad.", - "env-energy-carbon-EC-05-0": "El 72% de la energía consumida por el sistema proviene de fuentes renovables certificadas.", - "env-energy-carbon-EC-05-1": "Existe un compromiso de alcanzar el 90% de energía renovable para 2027 mediante contratos con centros de datos verdes.", - "env-energy-carbon-EC-06-0": "No se utiliza compensación de carbono actualmente; la estrategia prioriza la reducción directa de emisiones.", - # ── Environmental Impact: Hardware ────────────────────────────────── - "env-hardware-HW-01-0": "Se ha considerado el impacto ambiental de las GPUs seleccionadas (NVIDIA T4), priorizando eficiencia energética para inferencia.", - "env-hardware-HW-01-1": "Se priorizan opciones de hardware energéticamente eficientes: GPUs de inferencia de bajo consumo en lugar de GPUs de entrenamiento.", - "env-hardware-HW-02-0": "Se monitorizan las tasas de utilización de hardware: las GPUs operan al 65% de capacidad media durante horario laboral.", - "env-hardware-HW-02-1": "Se aplica planificación de cargas de trabajo: reentrenamientos programados en horas valle para maximizar la eficiencia.", - "env-hardware-HW-03-0": "Los ciclos de renovación de hardware se planifican cada 5 años, equilibrando rendimiento y sostenibilidad ambiental.", - "env-hardware-HW-03-1": "Se considera la reutilización y donación de hardware retirado a instituciones educativas antes de su reciclaje.", - "env-hardware-HW-04-0": "El hardware al final de su vida útil se gestiona a través de programas certificados de reciclaje de residuos electrónicos.", - "env-hardware-HW-04-1": "Los materiales peligrosos de los componentes de hardware se rastrean y gestionan conforme a la normativa RoHS/RAEE.", - "env-hardware-HW-05-0": "Los proveedores de hardware se evalúan por sus prácticas medioambientales y compromisos de sostenibilidad documentados.", - # ── Environmental Impact: Data Management ─────────────────────────── - "env-data-management-DM-01-0": "Se optimizan las prácticas de almacenamiento con compresión de imágenes, almacenamiento escalonado y deduplicación de plantillas.", - "env-data-management-DM-01-1": "La política de retención elimina imágenes de registro tras la generación del embedding, reduciendo el almacenamiento necesario.", - "env-data-management-DM-02-0": "Se minimiza la transferencia de datos mediante procesamiento local en cada sede, evitando transferencias masivas entre centros.", - "env-data-management-DM-02-1": "Se ha considerado el coste ambiental de las transferencias de datos para sincronización de modelos entre sedes.", - "env-data-management-DM-03-0": "Los centros de datos se seleccionan por criterios ambientales: PUE <1,3, uso de refrigeración por agua y energía renovable.", - "env-data-management-DM-03-1": "Se ha priorizado la ubicación de centros de datos en países nórdicos de la UE por sus climas fríos y alta disponibilidad de renovables.", - "env-data-management-DM-04-0": "El uso de agua de los sistemas de refrigeración se mide y documenta: 0,5 litros por kWh consumido en el centro de datos.", - "env-data-management-DM-04-1": "Se emplean tecnologías de refrigeración eficiente en agua, incluyendo free cooling durante los meses más fríos.", - # ── Environmental Impact: Model Efficiency ────────────────────────── - "env-model-efficiency-ME-01-0": "El tamaño del modelo (25 millones de parámetros) está justificado frente a los requisitos de precisión del reconocimiento facial.", - "env-model-efficiency-ME-01-1": "Se evaluaron modelos más pequeños (MobileNet, EfficientNet) antes de seleccionar ResNet-50 por su equilibrio precisión-eficiencia.", - "env-model-efficiency-ME-02-0": "Se aplican técnicas de entrenamiento eficientes: transfer learning desde un modelo preentrenado, mixed precision y early stopping.", - "env-model-efficiency-ME-02-1": "El número de ejecuciones de entrenamiento (12 experimentos) está documentado y justificado por la búsqueda de hiperparámetros.", - "env-model-efficiency-ME-03-0": "Se aplican técnicas de optimización de inferencia: cuantización INT8, pruning y caché de embeddings de empleados frecuentes.", - "env-model-efficiency-ME-03-1": "Se ha evaluado explícitamente el equilibrio entre precisión del modelo y coste computacional, documentando la decisión tomada.", - "env-model-efficiency-ME-04-0": "El calendario de reentrenamiento se basa en métricas de degradación del rendimiento, no en intervalos fijos predeterminados.", - "env-model-efficiency-ME-04-1": "Se utilizan enfoques de fine-tuning incremental en lugar de reentrenamiento completo cuando es posible.", - "env-model-efficiency-ME-05-0": "Se monitorizan métricas de eficiencia ambiental: precisión por vatio y decisiones por kWh junto con las métricas de rendimiento.", - # ── Environmental Impact: Lifecycle ────────────────────────────────── - "env-lifecycle-LC-01-0": "Se ha realizado una evaluación del ciclo de vida que cubre desde el desarrollo hasta el desmantelamiento del sistema.", - "env-lifecycle-LC-01-1": "Las emisiones incorporadas por la fabricación de hardware (GPUs, cámaras, servidores) se incluyen en la evaluación del ciclo de vida.", - "env-lifecycle-LC-02-0": "Existe un plan documentado para el desmantelamiento ambientalmente responsable del sistema y su infraestructura.", - "env-lifecycle-LC-02-1": "El plan de desmantelamiento aborda la eliminación de datos biométricos, la gestión de hardware y la finalización de servicios.", - "env-lifecycle-LC-03-0": "Los proveedores de servicios en la nube y terceros se evalúan por sus compromisos ambientales y publicación de informes.", - "env-lifecycle-LC-03-1": "Los acuerdos de nivel de servicio incluyen criterios de rendimiento ambiental, como PUE máximo y porcentaje de renovables.", - "env-lifecycle-LC-04-0": "Se aplican principios de economía circular a la infraestructura de IA: reutilización de GPUs, reparación de cámaras y reciclaje de servidores.", - # ── Environmental Impact: Monitoring ───────────────────────────────── - "env-monitoring-EM-01-0": "Se han definido KPIs ambientales para el sistema: energía por inferencia, carbono total anual y consumo de agua por sede.", - "env-monitoring-EM-01-1": "Los KPIs ambientales se revisan y actualizan semestralmente con el comité de sostenibilidad de la organización.", - "env-monitoring-EM-02-0": "Los datos de impacto ambiental se reportan a las partes interesadas internas en el informe anual de sostenibilidad.", - "env-monitoring-EM-02-1": "El reporte ambiental sigue el estándar GRI para indicadores de energía y emisiones de gases de efecto invernadero.", - "env-monitoring-EM-03-0": "Existe un proceso documentado para identificar e implementar mejoras ambientales basadas en los datos de monitorización.", - "env-monitoring-EM-03-1": "Se capturan sistemáticamente las lecciones aprendidas de incidentes ambientales o deficiencias de rendimiento detectadas.", - "env-monitoring-EM-04-0": "La organización cumple con las regulaciones ambientales aplicables a las operaciones de IA y centros de datos en la UE.", - "env-monitoring-EM-05-0": "Los objetivos ambientales del sistema de IA están alineados con los compromisos de sostenibilidad más amplios de la organización.", } diff --git a/backend/app/services/seed.py b/backend/app/services/seed.py index 4e4fbc3..7a8053f 100644 --- a/backend/app/services/seed.py +++ b/backend/app/services/seed.py @@ -225,6 +225,9 @@ ] +OPTIONAL_FRAMEWORKS = {"Environmental Impact Framework"} + + def _load_knowledge(framework_name: str) -> str: slug = framework_name.lower().replace(" ", "_") framework_dir = KNOWLEDGE_DIR / slug @@ -246,6 +249,9 @@ def seed_frameworks(db: Session) -> None: db.flush() for fw_data in SEED_FRAMEWORKS: + if fw_data["name"] in OPTIONAL_FRAMEWORKS: + continue + existing = db.query(Framework).filter(Framework.name == fw_data["name"]).first() if existing: new_content = _load_knowledge(fw_data["name"]) diff --git a/frontend/src/components/app-sidebar.tsx b/frontend/src/components/app-sidebar.tsx index ee4456a..f26b9d5 100644 --- a/frontend/src/components/app-sidebar.tsx +++ b/frontend/src/components/app-sidebar.tsx @@ -54,7 +54,7 @@ const NAV_CONFIG = [ ]; export function AppSidebar() { - const { t } = useTranslation(['components', 'common']); + const { t } = useTranslation(['components', 'common', 'pages']); const navigate = useNavigate(); const location = useLocation(); const { user, logout } = useAuth(); @@ -92,10 +92,15 @@ export function AppSidebar() { }, [currentProject]); useEffect(() => { - api - .get('/frameworks') - .then(setFrameworks) - .catch(() => {}); + const fetch = () => { + api + .get('/frameworks') + .then(setFrameworks) + .catch(() => {}); + }; + fetch(); + window.addEventListener('frameworks-changed', fetch); + return () => window.removeEventListener('frameworks-changed', fetch); }, []); const initials = user @@ -259,7 +264,7 @@ export function AppSidebar() { isActive={location.pathname === `/documents/${fw.id}`} onClick={() => navigate(`/documents/${fw.id}`)} > - {fw.name} + {t(`pages:frameworks.names.${fw.name}`, fw.name)} ))} @@ -295,7 +300,7 @@ export function AppSidebar() { isActive={location.pathname === `/reporting/${fw.id}`} onClick={() => navigate(`/reporting/${fw.id}`)} > - {fw.name} + {t(`pages:frameworks.names.${fw.name}`, fw.name)} ))} diff --git a/frontend/src/components/project-provider.tsx b/frontend/src/components/project-provider.tsx index 2dc307a..bb7d48b 100644 --- a/frontend/src/components/project-provider.tsx +++ b/frontend/src/components/project-provider.tsx @@ -3,18 +3,31 @@ import { api, type Project } from '@/lib/api'; import { ProjectContext } from '@/hooks/use-project'; import { useAuth } from '@/hooks/use-auth'; +const STORAGE_KEY = 'norma-current-project-id'; + export function ProjectProvider({ children }: { children: ReactNode }) { const { user } = useAuth(); const [projects, setProjects] = useState([]); - const [currentProject, setCurrentProject] = useState(null); + const [currentProject, setCurrentProjectState] = useState(null); const [loading, setLoading] = useState(true); + const setCurrentProject = useCallback((project: Project | null) => { + setCurrentProjectState(project); + if (project) { + localStorage.setItem(STORAGE_KEY, project.id); + } else { + localStorage.removeItem(STORAGE_KEY); + } + }, []); + const refreshProjects = useCallback(async () => { try { const data = await api.get('/projects'); setProjects(data); if (data.length > 0 && !currentProject) { - setCurrentProject(data[0]); + const savedId = localStorage.getItem(STORAGE_KEY); + const saved = savedId ? data.find((p) => p.id === savedId) : null; + setCurrentProject(saved ?? data[0]); } else if (currentProject) { const updated = data.find((p) => p.id === currentProject.id); if (updated) setCurrentProject(updated); @@ -26,7 +39,7 @@ export function ProjectProvider({ children }: { children: ReactNode }) { } finally { setLoading(false); } - }, [currentProject]); + }, [currentProject, setCurrentProject]); useEffect(() => { if (!user) return; @@ -36,7 +49,9 @@ export function ProjectProvider({ children }: { children: ReactNode }) { const data = await api.get('/projects'); if (cancelled) return; setProjects(data); - if (data.length > 0) setCurrentProject(data[0]); + const savedId = localStorage.getItem(STORAGE_KEY); + const saved = savedId ? data.find((p) => p.id === savedId) : null; + if (data.length > 0) setCurrentProject(saved ?? data[0]); } catch { // auth may not be ready yet } finally { @@ -47,7 +62,7 @@ export function ProjectProvider({ children }: { children: ReactNode }) { return () => { cancelled = true; }; - }, [user]); + }, [user, setCurrentProject]); const createProject = useCallback( async (data: { @@ -63,7 +78,7 @@ export function ProjectProvider({ children }: { children: ReactNode }) { setCurrentProject(project); return project; }, - [], + [setCurrentProject], ); const updateProject = useCallback( @@ -73,7 +88,7 @@ export function ProjectProvider({ children }: { children: ReactNode }) { if (currentProject?.id === id) setCurrentProject(project); return project; }, - [currentProject], + [currentProject, setCurrentProject], ); const evaluateRisk = useCallback( @@ -83,7 +98,7 @@ export function ProjectProvider({ children }: { children: ReactNode }) { if (currentProject?.id === id) setCurrentProject(project); return project; }, - [currentProject], + [currentProject, setCurrentProject], ); const deleteProject = useCallback( @@ -95,7 +110,7 @@ export function ProjectProvider({ children }: { children: ReactNode }) { setCurrentProject(remaining[0] ?? null); } }, - [currentProject, projects], + [currentProject, projects, setCurrentProject], ); return ( diff --git a/frontend/src/data/reporting-checklists.ts b/frontend/src/data/reporting-checklists.ts index 3a2db0b..2a344a3 100644 --- a/frontend/src/data/reporting-checklists.ts +++ b/frontend/src/data/reporting-checklists.ts @@ -1,13 +1,13 @@ import type { TFunction } from 'i18next'; import type { ChecklistArea } from './reporting-checklist'; import { getReportingChecklist } from './reporting-checklist'; -import { UNDP_CHECKLIST } from './reporting-undp'; -import { ENVIRONMENTAL_CHECKLIST } from './reporting-environmental'; +import { getUndpChecklist } from './reporting-undp'; +import { getEnvironmentalChecklist } from './reporting-environmental'; export function getFrameworkChecklists(t: TFunction): Record { return { 'EU AI Act': getReportingChecklist(t), - 'UNDP Human Rights Assessment': UNDP_CHECKLIST, - 'Environmental Impact Framework': ENVIRONMENTAL_CHECKLIST, + 'UNDP Human Rights Assessment': getUndpChecklist(t), + 'Environmental Impact Framework': getEnvironmentalChecklist(t), }; } diff --git a/frontend/src/data/reporting-environmental.ts b/frontend/src/data/reporting-environmental.ts index 4d3786a..0665455 100644 --- a/frontend/src/data/reporting-environmental.ts +++ b/frontend/src/data/reporting-environmental.ts @@ -1,272 +1,60 @@ +import type { TFunction } from 'i18next'; import type { ChecklistArea } from './reporting-checklist'; -export const ENVIRONMENTAL_CHECKLIST: ChecklistArea[] = [ +interface AreaDef { + id: string; + article: string; + codes: string[]; +} + +const AREA_DEFS: AreaDef[] = [ { id: 'env-energy-carbon', - title: 'Energy & Carbon', article: 'Principle 1–2', - items: [ - { - code: 'EC-01', - title: 'Training Energy Measurement', - questions: [ - 'Has the total energy consumption for model training been measured and documented (in kWh)?', - 'Is the energy source mix (renewable vs. fossil) for training infrastructure known and recorded?', - ], - }, - { - code: 'EC-02', - title: 'Inference Energy Measurement', - questions: [ - 'Is ongoing energy consumption during inference monitored and reported?', - 'Are energy-per-query or energy-per-request metrics tracked for production workloads?', - ], - }, - { - code: 'EC-03', - title: 'Carbon Footprint Estimation', - questions: [ - 'Has the carbon footprint of the AI system been estimated using a recognised methodology (e.g., GHG Protocol, ML CO₂ Impact)?', - 'Are Scope 1, 2, and 3 emissions considered in the carbon assessment?', - ], - }, - { - code: 'EC-04', - title: 'Carbon Reduction Targets', - questions: [ - 'Are there documented targets for reducing the carbon footprint of the AI system over time?', - 'Is progress against carbon reduction targets reviewed at defined intervals?', - ], - }, - { - code: 'EC-05', - title: 'Renewable Energy Usage', - questions: [ - 'What percentage of energy consumed by the AI system comes from renewable sources?', - 'Are there commitments or plans to increase renewable energy usage for AI workloads?', - ], - }, - { - code: 'EC-06', - title: 'Carbon Offsetting', - questions: [ - 'If carbon offsetting is used, are the offsets verified and from credible programmes?', - ], - }, - ], + codes: ['EC-01', 'EC-02', 'EC-03', 'EC-04', 'EC-05', 'EC-06'], }, { id: 'env-hardware', - title: 'Hardware', article: 'Principle 3', - items: [ - { - code: 'HW-01', - title: 'Hardware Selection', - questions: [ - 'Has the environmental impact of hardware choices (GPU/TPU type, server specifications) been considered during procurement?', - 'Are energy-efficient hardware options prioritised where performance requirements allow?', - ], - }, - { - code: 'HW-02', - title: 'Hardware Utilisation', - questions: [ - 'Are hardware utilisation rates monitored to minimise idle resource consumption?', - 'Are workload scheduling strategies (e.g., batch processing, off-peak scheduling) used to improve efficiency?', - ], - }, - { - code: 'HW-03', - title: 'Hardware Lifespan', - questions: [ - 'Are hardware refresh cycles planned to balance performance needs with environmental impact?', - 'Is hardware reuse, refurbishment, or donation considered before disposal?', - ], - }, - { - code: 'HW-04', - title: 'E-Waste Management', - questions: [ - 'Is end-of-life hardware disposed of through certified e-waste recycling programmes?', - 'Are hazardous materials in hardware components tracked and managed according to regulations?', - ], - }, - { - code: 'HW-05', - title: 'Supply Chain Sustainability', - questions: [ - 'Are hardware suppliers assessed for their environmental practices and sustainability commitments?', - ], - }, - ], + codes: ['HW-01', 'HW-02', 'HW-03', 'HW-04', 'HW-05'], }, { id: 'env-data-management', - title: 'Data Mgmt', article: 'Principle 4', - items: [ - { - code: 'DM-01', - title: 'Data Storage Efficiency', - questions: [ - 'Are data storage practices optimised to minimise energy consumption (e.g., tiered storage, compression, deduplication)?', - 'Is there a data retention policy that ensures unnecessary data is deleted to reduce storage footprint?', - ], - }, - { - code: 'DM-02', - title: 'Data Transfer Efficiency', - questions: [ - 'Are data transfer volumes minimised through edge processing, caching, or data locality strategies?', - 'Is the environmental cost of large-scale data transfers (e.g., cross-region, cross-cloud) considered?', - ], - }, - { - code: 'DM-03', - title: 'Data Centre Selection', - questions: [ - 'Are data centres selected based on environmental criteria such as PUE, water usage effectiveness, and renewable energy sourcing?', - 'Is the geographical location of data centres chosen to optimise for cooler climates or renewable energy availability?', - ], - }, - { - code: 'DM-04', - title: 'Water Usage', - questions: [ - 'Is the water usage of cooling systems for AI workloads measured and documented?', - 'Are water-efficient cooling technologies employed where feasible?', - ], - }, - ], + codes: ['DM-01', 'DM-02', 'DM-03', 'DM-04'], }, { id: 'env-model-efficiency', - title: 'Efficiency', article: 'Principle 5', - items: [ - { - code: 'ME-01', - title: 'Model Size Justification', - questions: [ - 'Is the model size (parameter count) justified relative to the task requirements?', - 'Have smaller or more efficient model architectures been evaluated before selecting the final model?', - ], - }, - { - code: 'ME-02', - title: 'Training Efficiency', - questions: [ - 'Are efficient training techniques used (e.g., transfer learning, mixed-precision training, early stopping)?', - 'Is the number of training runs and hyperparameter searches documented and justified?', - ], - }, - { - code: 'ME-03', - title: 'Inference Optimisation', - questions: [ - 'Are inference optimisation techniques applied (e.g., quantisation, pruning, distillation, caching)?', - 'Is the trade-off between model accuracy and computational cost explicitly evaluated?', - ], - }, - { - code: 'ME-04', - title: 'Retraining Frequency', - questions: [ - 'Is the retraining schedule justified based on performance degradation metrics rather than fixed intervals?', - 'Are incremental or fine-tuning approaches used instead of full retraining where possible?', - ], - }, - { - code: 'ME-05', - title: 'Benchmarking', - questions: [ - 'Are environmental efficiency metrics (e.g., accuracy-per-watt, throughput-per-kWh) tracked alongside performance metrics?', - ], - }, - ], + codes: ['ME-01', 'ME-02', 'ME-03', 'ME-04', 'ME-05'], }, { id: 'env-lifecycle', - title: 'Lifecycle', article: 'Principle 3, 6', - items: [ - { - code: 'LC-01', - title: 'Lifecycle Assessment', - questions: [ - 'Has a lifecycle assessment been conducted covering the environmental impact from development through deployment to decommissioning?', - 'Are embodied emissions from hardware manufacturing included in the lifecycle assessment?', - ], - }, - { - code: 'LC-02', - title: 'Decommissioning Plan', - questions: [ - 'Is there a documented plan for environmentally responsible decommissioning of the AI system and its infrastructure?', - 'Does the decommissioning plan address data deletion, hardware disposal, and service wind-down?', - ], - }, - { - code: 'LC-03', - title: 'Vendor and Cloud Sustainability', - questions: [ - 'Are cloud providers and third-party vendors assessed for their environmental commitments and reporting?', - 'Do service-level agreements include environmental performance criteria?', - ], - }, - { - code: 'LC-04', - title: 'Circular Economy Practices', - questions: [ - 'Are circular economy principles (reuse, repair, recycle) applied to AI infrastructure and hardware?', - ], - }, - ], + codes: ['LC-01', 'LC-02', 'LC-03', 'LC-04'], }, { id: 'env-monitoring', - title: 'Monitoring', article: 'Principle 6', - items: [ - { - code: 'EM-01', - title: 'Environmental KPIs', - questions: [ - 'Are environmental key performance indicators (KPIs) defined for the AI system (e.g., energy per inference, total carbon, water usage)?', - 'Are KPIs reviewed and updated at regular intervals?', - ], - }, - { - code: 'EM-02', - title: 'Reporting and Disclosure', - questions: [ - 'Is environmental impact data reported to internal stakeholders and, where applicable, to external bodies?', - 'Does environmental reporting follow a recognised standard or framework (e.g., GRI, CDP, TCFD)?', - ], - }, - { - code: 'EM-03', - title: 'Continuous Improvement', - questions: [ - 'Is there a documented process for identifying and implementing environmental improvements based on monitoring data?', - 'Are lessons learned from environmental incidents or performance shortfalls systematically captured?', - ], - }, - { - code: 'EM-04', - title: 'Regulatory Compliance', - questions: [ - 'Does the organisation track and comply with applicable environmental regulations related to AI and data centre operations?', - ], - }, - { - code: 'EM-05', - title: 'Sustainability Targets Integration', - questions: [ - 'Are AI-specific environmental targets aligned with the organisation’s broader sustainability goals and commitments (e.g., net-zero pledges)?', - ], - }, - ], + codes: ['EM-01', 'EM-02', 'EM-03', 'EM-04', 'EM-05'], }, ]; + +export function getEnvironmentalChecklist(t: TFunction): ChecklistArea[] { + return AREA_DEFS.map((area) => ({ + id: area.id, + title: t(`environmentalChecklist.areas.${area.id}.title`, { ns: 'data' }), + article: area.article, + items: area.codes.map((code) => { + const item = t(`environmentalChecklist.areas.${area.id}.items.${code}`, { + ns: 'data', + returnObjects: true, + }) as { title: string; questions: string[] }; + return { + code, + title: item.title, + questions: item.questions, + }; + }), + })); +} diff --git a/frontend/src/data/reporting-undp.ts b/frontend/src/data/reporting-undp.ts index 6e233ed..baa5f0c 100644 --- a/frontend/src/data/reporting-undp.ts +++ b/frontend/src/data/reporting-undp.ts @@ -1,1092 +1,75 @@ +import type { TFunction } from 'i18next'; import type { ChecklistArea } from './reporting-checklist'; -export const UNDP_CHECKLIST: ChecklistArea[] = [ +interface AreaDef { + id: string; + article: string; + codes: string[]; +} + +const AREA_DEFS: AreaDef[] = [ { id: 'undp-zero-question', - title: 'Zero Q.', article: 'Phase 0', - items: [ - { - code: 'ZQ-01', - title: 'AI Necessity Assessment', - questions: [ - 'Has it been assessed whether an AI-based solution is actually necessary, or whether non-algorithmic alternatives could achieve the same goal? (CRITICAL)', - ], - }, - { - code: 'ZQ-02', - title: 'AI Rationale', - questions: [ - 'Has the rationale for choosing an AI-based approach over alternatives been documented?', - ], - }, - { - code: 'ZQ-03', - title: 'SWOT Analysis', - questions: [ - 'Has a SWOT analysis (Strengths, Weaknesses, Opportunities, Threats) of the AI approach vs. alternatives been conducted?', - ], - }, - { - code: 'ZQ-04', - title: 'Fundamental Rights Compatibility', - questions: [ - 'Has it been confirmed that the AI solution does not pursue an objective that is inherently incompatible with fundamental rights?', - ], - }, - ], + codes: ['ZQ-01', 'ZQ-02', 'ZQ-03', 'ZQ-04'], }, { id: 'undp-org-readiness', - title: 'Readiness', article: 'Phase 1', - items: [ - { - code: 'OR-01', - title: 'Human Rights Policy', - questions: [ - 'Does the organisation have a documented human rights policy covering AI design, development, and deployment?', - ], - }, - { - code: 'OR-02', - title: 'Leadership Support', - questions: [ - 'Does leadership actively support and resource human rights due diligence for AI initiatives?', - ], - }, - { - code: 'OR-03', - title: 'Reporting Channels', - questions: [ - 'Do dedicated channels exist for employees to report potential human rights issues related to AI systems?', - ], - }, - { - code: 'OR-04', - title: 'Policy Review', - questions: [ - 'Does the organisation regularly review and update policies to address emerging AI-related human rights issues?', - ], - }, - { - code: 'OR-05', - title: 'Cross-Departmental Collaboration', - questions: ['Is cross-departmental collaboration on human rights in AI facilitated?'], - }, - { - code: 'OR-06', - title: 'Stakeholder Engagement', - questions: [ - 'Does the organisation engage stakeholders (including affected communities) for input and feedback during the AI lifecycle?', - ], - }, - { - code: 'OR-07', - title: 'Resource Allocation', - questions: [ - 'Does the organisation allocate sufficient resources for training, risk assessments, and stakeholder engagement?', - ], - }, - { - code: 'OR-08', - title: 'Public Transparency', - questions: [ - 'Does the organisation prioritise transparency and communication with the public about AI use?', - ], - }, - { - code: 'OR-09', - title: 'Management Understanding', - questions: [ - 'Does the management team have comprehensive understanding of human rights implications of AI?', - ], - }, - { - code: 'OR-10', - title: 'Employee Training', - questions: [ - 'Do employees receive regular training on human rights and ethical considerations in AI?', - ], - }, - { - code: 'OR-11', - title: 'Designated Staff', - questions: [ - 'Are designated staff or teams responsible for monitoring and addressing human rights issues in AI projects?', - ], - }, - { - code: 'OR-12', - title: 'External Expertise', - questions: ['Does the organisation collaborate with external human rights and AI experts?'], - }, - { - code: 'OR-13', - title: 'Whistleblower Protection', - questions: [ - 'Are employees protected from retaliation when raising human rights concerns about AI?', - ], - }, - { - code: 'OR-14', - title: 'Feedback Incorporation', - questions: [ - 'Does a process exist for incorporating stakeholder feedback into AI practices?', - ], - }, - { - code: 'OR-15', - title: 'Legal Expertise', - questions: ['Does the organisation have access to legal expertise on human rights and AI?'], - }, - { - code: 'OR-16', - title: 'Best Practices Resources', - questions: ['Are resources provided for employees to stay updated on best practices?'], - }, - { - code: 'OR-17', - title: 'Industry Participation', - questions: [ - 'Does the organisation participate in industry groups or forums on human rights and AI?', - ], - }, - { - code: 'OR-18', - title: 'Skills Gap Assessment', - questions: [ - 'Does the organisation regularly assess and address AI-related human rights skill gaps?', - ], - }, - { - code: 'OR-19', - title: 'Impact Assessment Process', - questions: [ - 'Does a systematic human rights impact assessment process exist for all AI projects? (CRITICAL)', - ], - }, - { - code: 'OR-20', - title: 'Third-Party AI Evaluation', - questions: [ - 'Do procedures exist to evaluate human rights impacts of third-party AI systems integrated or utilised? (CRITICAL)', - ], - }, - { - code: 'OR-21', - title: 'Risk Identification', - questions: [ - 'Is a systematic risk identification process in place, including testing for reliability, accuracy, and resilience?', - ], - }, - { - code: 'OR-22', - title: 'Community Engagement', - questions: [ - 'Are stakeholders (including affected communities) engaged in the AI deployment process?', - ], - }, - { - code: 'OR-23', - title: 'Pre-Deployment Assessment', - questions: [ - 'Do all AI projects undergo human rights and data protection impact assessment before deployment? (CRITICAL)', - ], - }, - { - code: 'OR-24', - title: 'Data Security Protocols', - questions: [ - 'Are data security and privacy protocols established for all AI-related processes?', - ], - }, - { - code: 'OR-25', - title: 'Regulatory Updates', - questions: [ - 'Are processes regularly updated to incorporate new regulations and standards?', - ], - }, - { - code: 'OR-26', - title: 'Oversight Process', - questions: [ - 'Is an oversight process established to monitor AI system performance and compliance with human rights standards? (CRITICAL)', - ], - }, - { - code: 'OR-27', - title: 'Failure Mitigation', - questions: [ - 'Does the organisation have ability to mitigate and minimise negative effects from AI system failures?', - ], - }, - { - code: 'OR-28', - title: 'Redress Mechanism', - questions: [ - 'Is a redress mechanism in place for individuals adversely affected by AI systems? (CRITICAL)', - ], - }, - ], + codes: Array.from({ length: 28 }, (_, i) => `OR-${String(i + 1).padStart(2, '0')}`), }, { id: 'undp-planning', - title: 'Planning', article: 'Phase 2', - items: [ - { - code: 'PS-01', - title: 'System Purpose', - questions: ['Has the main purpose of the AI system been documented? (CRITICAL)'], - }, - { - code: 'PS-02', - title: 'Technical Characteristics', - questions: [ - 'Have the main technical characteristics of the system been documented (type of AI model, architecture)?', - ], - }, - { - code: 'PS-03', - title: 'Deployment Jurisdictions', - questions: [ - 'Have all countries/jurisdictions where the system will be deployed been identified?', - ], - }, - { - code: 'PS-04', - title: 'Data Types', - questions: [ - 'Have all types of data processed (personal, non-personal, special categories) for training and operation been identified? (CRITICAL)', - ], - }, - { - code: 'PS-05', - title: 'Data Flow Mapping', - questions: [ - 'Have all data flows been mapped — from collection through processing to storage and deletion?', - ], - }, - { - code: 'PS-06', - title: 'Affected Individuals', - questions: [ - 'Have all individuals or groups potentially affected by the AI system been identified? (CRITICAL)', - ], - }, - { - code: 'PS-07', - title: 'Vulnerable Groups', - questions: [ - 'Has it been assessed whether affected groups include vulnerable individuals or groups (children, minorities, persons with disabilities, etc.)?', - ], - }, - { - code: 'PS-08', - title: 'Duty-Bearers', - questions: [ - 'Have all duty-bearers been identified — who is involved in design, provision, and deployment, and what is their role? (CRITICAL)', - ], - }, - { - code: 'PS-09', - title: 'Responsibility Chain', - questions: ['Has the chain of responsibility from developer to deployer been documented?'], - }, - { - code: 'PS-10', - title: 'Existing Policies', - questions: [ - 'Have existing policies and procedures for assessing human rights impacts (including stakeholder engagement) been documented?', - ], - }, - { - code: 'PS-11', - title: 'Prior Impact Assessments', - questions: [ - 'Have any prior impact assessments been documented (e.g., Data Protection Impact Assessment, sector-specific assessments)?', - ], - }, - { - code: 'PS-12', - title: 'Affected Groups Identification', - questions: [ - 'Have all groups or communities potentially affected by the AI system (including during development) been identified? (CRITICAL)', - ], - }, - { - code: 'PS-13', - title: 'Relevant Stakeholders', - questions: [ - 'Have all relevant stakeholders to involve been identified (civil society, international organisations, experts, industry associations, journalists)?', - ], - }, - { - code: 'PS-14', - title: 'Additional Duty-Bearers', - questions: [ - 'Have additional duty-bearers beyond the AI provider and deployer been identified (national authorities, government agencies)?', - ], - }, - { - code: 'PS-15', - title: 'Supply Chain Assessment', - questions: [ - 'Has it been assessed whether business partners and suppliers (subcontractors of AI systems and datasets) have been involved in the assessment? (CRITICAL)', - ], - }, - { - code: 'PS-16', - title: 'Supplier Human Rights Impact', - questions: [ - 'Has the AI provider conducted a supply chain assessment for potential human rights impacts from suppliers/contractors? (CRITICAL)', - ], - }, - { - code: 'PS-17', - title: 'Supplier Standards', - questions: [ - 'Has the AI provider promoted human rights standards or audits among suppliers?', - ], - }, - { - code: 'PS-18', - title: 'Public Communication', - questions: [ - 'Do the AI provider and developers publicly communicate potential human rights impacts of the AI system?', - ], - }, - { - code: 'PS-19', - title: 'Staff Training', - questions: [ - 'Do the AI provider and developers provide training on human rights standards to management and procurement staff?', - ], - }, - ], + codes: Array.from({ length: 19 }, (_, i) => `PS-${String(i + 1).padStart(2, '0')}`), }, { id: 'undp-rights-mapping', - title: 'Rights Mapping', article: 'Phase 2.3', - items: [ - { - code: 'HRM-01', - title: 'Rights Identification', - questions: [ - 'Have all human rights potentially affected by the AI system been identified, using the comprehensive rights checklist? (CRITICAL)', - ], - }, - { - code: 'HRM-02', - title: 'Human Dignity', - questions: ['Has the potential impact on human dignity been assessed?'], - }, - { - code: 'HRM-03', - title: 'Freedom from Discrimination', - questions: ['Has the potential impact on freedom from discrimination been assessed?'], - }, - { - code: 'HRM-04', - title: 'Right to Life', - questions: ['Has the potential impact on the right to life been assessed?'], - }, - { - code: 'HRM-05', - title: 'Freedom from Slavery', - questions: ['Has the potential impact on freedom from slavery been assessed?'], - }, - { - code: 'HRM-06', - title: 'Freedom from Inhuman Treatment', - questions: [ - 'Has the potential impact on freedom from inhuman/degrading treatment been assessed?', - ], - }, - { - code: 'HRM-07', - title: 'Right to Privacy', - questions: ['Has the potential impact on the right to privacy been assessed?'], - }, - { - code: 'HRM-08', - title: 'Right to Own Property', - questions: ['Has the potential impact on the right to own property been assessed?'], - }, - { - code: 'HRM-09', - title: 'Freedom of Thought', - questions: [ - 'Has the potential impact on freedom of thought, conscience, and religion been assessed?', - ], - }, - { - code: 'HRM-10', - title: 'Freedom of Expression', - questions: ['Has the potential impact on freedom of expression been assessed?'], - }, - { - code: 'HRM-11', - title: 'Freedom of Movement', - questions: ['Has the potential impact on freedom of movement been assessed?'], - }, - { - code: 'HRM-12', - title: 'Freedom of Assembly', - questions: ['Has the potential impact on freedom of assembly been assessed?'], - }, - { - code: 'HRM-13', - title: 'Freedom of Association', - questions: [ - 'Has the potential impact on the right to freedom of association been assessed?', - ], - }, - { - code: 'HRM-14', - title: 'Right to Marriage and Family', - questions: ['Has the potential impact on the right to marriage and family been assessed?'], - }, - { - code: 'HRM-15', - title: 'Adequate Standard of Living', - questions: [ - 'Has the potential impact on the right to adequate standard of living (including health) been assessed?', - ], - }, - { - code: 'HRM-16', - title: 'Right to Education', - questions: ['Has the potential impact on the right to education been assessed?'], - }, - { - code: 'HRM-17', - title: 'Right to Social Security', - questions: ['Has the potential impact on the right to social security been assessed?'], - }, - { - code: 'HRM-18', - title: 'Cultural and Scientific Life', - questions: [ - 'Has the potential impact on the right to take part in cultural, artistic, scientific life been assessed?', - ], - }, - { - code: 'HRM-19', - title: 'Right to Work', - questions: ['Has the potential impact on the right to work been assessed?'], - }, - { - code: 'HRM-20', - title: 'Right to Leisure', - questions: ['Has the potential impact on the right to leisure and rest been assessed?'], - }, - { - code: 'HRM-21', - title: 'Minority Rights', - questions: [ - 'Has the potential impact on the rights of religious, ethnic, or linguistic minorities been assessed?', - ], - }, - { - code: 'HRM-22', - title: 'Rights of Children', - questions: ['Has the potential impact on the rights of children been assessed?'], - }, - { - code: 'HRM-23', - title: 'Freedom from Torture', - questions: ['Has the potential impact on freedom from torture been assessed?'], - }, - { - code: 'HRM-24', - title: 'Recognition Before the Law', - questions: [ - 'Has the potential impact on the right to recognition before the law been assessed?', - ], - }, - { - code: 'HRM-25', - title: 'Equality Before the Law', - questions: [ - 'Has the potential impact on the right to equality before the law been assessed?', - ], - }, - { - code: 'HRM-26', - title: 'Access to Justice', - questions: ['Has the potential impact on access to justice been assessed?'], - }, - { - code: 'HRM-27', - title: 'Freedom from Arbitrary Detention', - questions: ['Has the potential impact on freedom from arbitrary detention been assessed?'], - }, - { - code: 'HRM-28', - title: 'Right to a Fair Trial', - questions: ['Has the potential impact on the right to a fair trial been assessed?'], - }, - { - code: 'HRM-29', - title: 'Presumption of Innocence', - questions: ['Has the potential impact on the presumption of innocence been assessed?'], - }, - { - code: 'HRM-30', - title: 'Right to Legal Recourse', - questions: ['Has the potential impact on the right to legal recourse been assessed?'], - }, - { - code: 'HRM-31', - title: 'Right to Asylum', - questions: ['Has the potential impact on the right to asylum been assessed?'], - }, - { - code: 'HRM-32', - title: 'Right to Nationality', - questions: ['Has the potential impact on the right to nationality been assessed?'], - }, - { - code: 'HRM-33', - title: 'Public Affairs Participation', - questions: [ - 'Has the potential impact on the right to take part in public affairs been assessed?', - ], - }, - { - code: 'HRM-34', - title: 'Legal Instruments', - questions: [ - 'Have all applicable international/regional legal instruments for human rights protection in deployment jurisdictions been identified?', - ], - }, - { - code: 'HRM-35', - title: 'Oversight Bodies', - questions: ['Have relevant human rights courts or oversight bodies been identified?'], - }, - { - code: 'HRM-36', - title: 'Case Law', - questions: [ - 'Has the most relevant case law and legal provisions in the field of human rights been identified?', - ], - }, - ], + codes: Array.from({ length: 36 }, (_, i) => `HRM-${String(i + 1).padStart(2, '0')}`), }, { id: 'undp-data-diligence', - title: 'Due Diligence', article: 'Phase 3', - items: [ - { - code: 'DD-01', - title: 'Data Origin', - questions: [ - 'Is the origin of primary training data documented (collected, purchased, scraped)? (CRITICAL)', - ], - }, - { - code: 'DD-02', - title: 'Data Consent', - questions: ['Was consent obtained appropriately for data collection? (CRITICAL)'], - }, - { - code: 'DD-03', - title: 'Data Diversity', - questions: [ - 'Have steps been taken to ensure data represents the diversity of the affected population (gender, race, age, disability, location)?', - ], - }, - { - code: 'DD-04', - title: 'Data Bias', - questions: [ - 'Have known limitations or potential biases in the dataset been identified and documented?', - ], - }, - { - code: 'DD-05', - title: 'Sensitive Data Protection', - questions: [ - 'Is personal/sensitive data handled and protected appropriately throughout the lifecycle?', - ], - }, - { - code: 'DD-06', - title: 'Data Labelling', - questions: [ - 'Are data labelling processes documented, including potential sources of subjective bias?', - ], - }, - { - code: 'DD-07', - title: 'Training Objective', - questions: [ - 'Is the specific goal/objective of the AI training documented (clarifies intended function vs. potential misuse)?', - ], - }, - { - code: 'DD-08', - title: 'Fairness Criteria', - questions: [ - 'Were fairness criteria/metrics used during training and evaluation (documented which ones)?', - ], - }, - { - code: 'DD-09', - title: 'Model Limitations', - questions: [ - 'Are known limitations, failure modes, and performance boundaries of the trained model documented?', - ], - }, - { - code: 'DD-10', - title: 'Model Type', - questions: [ - 'Is the type of AI model documented with rationale for selection (predictive, generative, etc.)?', - ], - }, - { - code: 'DD-11', - title: 'Performance Measurement', - questions: ['Is system performance measured and documented? (CRITICAL)'], - }, - { - code: 'DD-12', - title: 'Subgroup Performance', - questions: [ - 'Are performance results available broken down by relevant subgroups (age, gender, race, ethnicity, disability)? (CRITICAL)', - ], - }, - { - code: 'DD-13', - title: 'Model Documentation', - questions: ['Is model documentation available (e.g., Model Card, Datasheet)?'], - }, - { - code: 'DD-14', - title: 'Explainability', - questions: [ - 'Are features available for explaining specific AI decisions/outputs (explainability)? (CRITICAL)', - ], - }, - { - code: 'DD-15', - title: 'Human Oversight', - questions: ['Is human oversight planned or required in the deployment context? (CRITICAL)'], - }, - { - code: 'DD-16', - title: 'Post-Deployment Monitoring', - questions: ['Does a process exist for post-deployment monitoring and updates? (CRITICAL)'], - }, - { - code: 'DD-17', - title: 'Feedback and Complaints', - questions: [ - 'Does a process exist for addressing feedback, complaints, or identified problems? (CRITICAL)', - ], - }, - { - code: 'DD-18', - title: 'Input Testing', - questions: [ - 'Has input testing been performed (edge cases — informal language, unusual names, extreme values)?', - ], - }, - { - code: 'DD-19', - title: 'Bias Probing', - questions: [ - 'Has bias probing been performed (identical prompts with different demographic personas)?', - ], - }, - { - code: 'DD-20', - title: 'Functionality Testing', - questions: [ - 'Has functionality testing been performed (does the system reliably do what it claims)?', - ], - }, - { - code: 'DD-21', - title: 'Accessibility Check', - questions: [ - 'Has an accessibility check been performed (screen reader compatibility, alternative input methods)?', - ], - }, - { - code: 'DD-22', - title: 'Output Review', - questions: [ - 'Has an output review been performed (checked for hallucinations, factual errors, biased/harmful content)?', - ], - }, - ], + codes: Array.from({ length: 22 }, (_, i) => `DD-${String(i + 1).padStart(2, '0')}`), }, { id: 'undp-risk-analysis', - title: 'Analysis', article: 'Phase 4', - items: [ - { - code: 'RA-01', - title: 'Probability Assessment', - questions: [ - 'Has the probability of adverse outcomes been assessed for each affected right (Low / Medium / High / Very High)?', - ], - }, - { - code: 'RA-02', - title: 'Exposure Assessment', - questions: [ - 'Has exposure been assessed — the proportion of identified rights-holders potentially affected (Low / Medium / High / Very High)?', - ], - }, - { - code: 'RA-03', - title: 'Overall Likelihood', - questions: [ - 'Has overall likelihood been calculated using the Probability x Exposure matrix?', - ], - }, - { - code: 'RA-04', - title: 'Gravity of Prejudice', - questions: [ - 'Has gravity of prejudice been assessed — considering intensity, consequences, importance of the violated right, group-specific impact, and vulnerability (Low / Medium / High / Very High)?', - ], - }, - { - code: 'RA-05', - title: 'Effort to Overcome', - questions: [ - 'Has the effort to overcome adverse effects been assessed — reversibility and difficulty of remedy (Low / Medium / High / Very High)?', - ], - }, - { - code: 'RA-06', - title: 'Overall Severity', - questions: ['Has overall severity been calculated using the Gravity x Effort matrix?'], - }, - { - code: 'RA-07', - title: 'Risk Index', - questions: [ - 'Has the risk index been calculated for each affected right (Likelihood x Severity matrix)? (CRITICAL)', - ], - }, - { - code: 'RA-08', - title: 'Impact Visualisation', - questions: [ - 'Has a radial graph or equivalent visualisation been created showing impact across all affected rights?', - ], - }, - { - code: 'RA-09', - title: 'Independent Assessment', - questions: [ - 'Has each right been assessed independently — no cumulative index combining impacts across rights?', - ], - }, - { - code: 'RA-10', - title: 'Risk Exclusion Factors', - questions: [ - 'Have factors that may exclude risk been evaluated (legal limitations justifying certain impacts)?', - ], - }, - { - code: 'RA-11', - title: 'Balancing Test', - questions: [ - 'Has a balancing test been applied where conflicting rights exist (only after individual impact assessment)?', - ], - }, - { - code: 'RA-12', - title: 'Benefits Analysis', - questions: [ - 'Have potential benefits been analysed in terms of enhancing or safeguarding other protected rights?', - ], - }, - ], + codes: Array.from({ length: 12 }, (_, i) => `RA-${String(i + 1).padStart(2, '0')}`), }, { id: 'undp-risk-management', - title: 'Management', article: 'Phase 5', - items: [ - { - code: 'RMG-01', - title: 'Mitigation Measures', - questions: [ - 'Have specific measures been identified to prevent or mitigate each risk rated Medium, High, or Very High? (CRITICAL)', - ], - }, - { - code: 'RMG-02', - title: 'Contextualised Measures', - questions: [ - 'Are measures contextualised to the specific AI system, its characteristics, and deployment context?', - ], - }, - { - code: 'RMG-03', - title: 'Likelihood and Severity', - questions: ['Do measures address both the likelihood and severity dimensions?'], - }, - { - code: 'RMG-04', - title: 'Implementation Timeline', - questions: ['Has an implementation timeline been established for each measure?'], - }, - { - code: 'RMG-05', - title: 'Responsibility Assignment', - questions: ['Has a responsible person/team been assigned for each measure?'], - }, - { - code: 'RMG-06', - title: 'Residual Risk Re-Assessment', - questions: [ - 'After implementing mitigation measures, has residual risk been re-assessed for each affected right? (CRITICAL)', - ], - }, - { - code: 'RMG-07', - title: 'Residual Likelihood', - questions: ['Has residual likelihood been re-calculated?'], - }, - { - code: 'RMG-08', - title: 'Residual Severity', - questions: ['Has residual severity been re-calculated?'], - }, - { - code: 'RMG-09', - title: 'Residual Impact', - questions: ['Has residual overall impact been documented?'], - }, - { - code: 'RMG-10', - title: 'Acceptability Assessment', - questions: ['Has the acceptability of residual risk been assessed?'], - }, - { - code: 'RMG-11', - title: 'Persistent High Risk', - questions: [ - 'If residual risk remains High or Very High, have additional measures or project redesign been considered?', - ], - }, - { - code: 'RMG-12', - title: 'Decision Records', - questions: [ - 'Is a complete record maintained of all risk assessment decisions, scoring rationales, and matrix choices? (CRITICAL)', - ], - }, - { - code: 'RMG-13', - title: 'Scaling Criteria', - questions: ['Is there a record of all scaling criteria used and justification for ranges?'], - }, - { - code: 'RMG-14', - title: 'Stakeholder Input', - questions: ['Is all stakeholder input documented?'], - }, - { - code: 'RMG-15', - title: 'Effectiveness Documentation', - questions: ['Are mitigation measures and their expected effectiveness documented?'], - }, - ], + codes: Array.from({ length: 15 }, (_, i) => `RMG-${String(i + 1).padStart(2, '0')}`), }, { id: 'undp-monitoring', - title: 'Monitoring', article: 'Phase 6', - items: [ - { - code: 'MI-01', - title: 'Monitoring Plan', - questions: [ - 'Has a monitoring plan been established for post-deployment performance of the AI system? (CRITICAL)', - ], - }, - { - code: 'MI-02', - title: 'Periodic Re-Assessment', - questions: [ - 'Has a schedule been set for periodic re-assessment (circular iterative approach)?', - ], - }, - { - code: 'MI-03', - title: 'Drift Detection', - questions: ['Is a process in place to detect model drift and emerging biases over time?'], - }, - { - code: 'MI-04', - title: 'Feedback Channels', - questions: [ - 'Have feedback channels been established for affected individuals to report harm? (CRITICAL)', - ], - }, - { - code: 'MI-05', - title: 'Remedy Mechanism', - questions: [ - 'Is an effective remedy/redress mechanism operational for individuals adversely affected? (CRITICAL)', - ], - }, - { - code: 'MI-06', - title: 'Re-Assessment Triggers', - questions: [ - 'Have triggers been defined for when a full re-assessment is required (e.g., significant system update, change in deployment context, new regulatory requirements, reported incidents)?', - ], - }, - { - code: 'MI-07', - title: 'Regulatory Incorporation', - questions: [ - 'Is there a process for incorporating new regulations and standards as they emerge?', - ], - }, - { - code: 'MI-08', - title: 'Feedback Loop', - questions: [ - 'Do the results of monitoring feed back into the risk assessment and mitigation cycle?', - ], - }, - ], + codes: Array.from({ length: 8 }, (_, i) => `MI-${String(i + 1).padStart(2, '0')}`), }, { id: 'undp-framework-alignment', - title: 'Alignment', article: 'Phase 7', - items: [ - { - code: 'FA-01', - title: 'State Duty to Protect', - questions: [ - 'UNGPs Pillar I — Is there awareness of state obligations in jurisdictions of deployment?', - ], - }, - { - code: 'FA-02', - title: 'Corporate Responsibility', - questions: [ - 'UNGPs Pillar II — Has the organisation conducted human rights due diligence across the AI lifecycle?', - ], - }, - { - code: 'FA-03', - title: 'Access to Remedy', - questions: [ - 'UNGPs Pillar III — Are effective grievance mechanisms in place for affected individuals?', - ], - }, - { - code: 'FA-04', - title: 'Inclusive Growth', - questions: [ - 'OECD — Does the AI system benefit society broadly and not exacerbate inequalities?', - ], - }, - { - code: 'FA-05', - title: 'Human-Centred Values', - questions: [ - 'OECD — Has an assessment of potential discrimination and inequitable outcomes been completed?', - ], - }, - { - code: 'FA-06', - title: 'Transparency and Explainability', - questions: [ - 'OECD — Is there documentation of how the AI works, its limitations, and how it makes decisions?', - ], - }, - { - code: 'FA-07', - title: 'Robustness and Safety', - questions: [ - 'OECD — Have failure modes, security vulnerabilities, and reliability been assessed?', - ], - }, - { - code: 'FA-08', - title: 'Accountability', - questions: [ - 'OECD — Have clear responsibilities and oversight mechanisms been established?', - ], - }, - { - code: 'FA-09', - title: 'EU AI Act Risk Classification', - questions: [ - 'Has the AI system risk classification been determined (Unacceptable / High / Limited / Minimal risk)? (CRITICAL)', - ], - }, - { - code: 'FA-10', - title: 'Fundamental Rights Impact Assessment', - questions: [ - 'If high-risk: Has a Fundamental Rights Impact Assessment (FRIA) been conducted as required under Article 27?', - ], - }, - { - code: 'FA-11', - title: 'Data Governance', - questions: ['Are appropriate data governance measures in place?'], - }, - { - code: 'FA-12', - title: 'Transparency Obligations', - questions: [ - 'Have transparency obligations been met (users informed they are interacting with AI where applicable)?', - ], - }, - { - code: 'FA-13', - title: 'Human Oversight Requirements', - questions: ['Have human oversight requirements been established and documented?'], - }, - { - code: 'FA-14', - title: 'Technical Documentation', - questions: ['Is technical documentation maintained as required?'], - }, - { - code: 'FA-15', - title: 'EU Database Registration', - questions: ['Has registration in the EU database been completed (if applicable)?'], - }, - { - code: 'FA-16', - title: 'Council of Europe Assessment', - questions: [ - 'Has the AI system been assessed for impact on human rights, democracy, and rule of law?', - ], - }, - { - code: 'FA-17', - title: 'Convention Compliance', - questions: [ - "Does the system comply with the Council of Europe Convention's emphasis on human rights, democratic principles, and rule of law?", - ], - }, - ], + codes: Array.from({ length: 17 }, (_, i) => `FA-${String(i + 1).padStart(2, '0')}`), }, ]; + +export function getUndpChecklist(t: TFunction): ChecklistArea[] { + return AREA_DEFS.map((area) => ({ + id: area.id, + title: t(`undpChecklist.areas.${area.id}.title`, { ns: 'data' }), + article: area.article, + items: area.codes.map((code) => { + const item = t(`undpChecklist.areas.${area.id}.items.${code}`, { + ns: 'data', + returnObjects: true, + }) as { title: string; questions: string[] }; + return { + code, + title: item.title, + questions: item.questions, + }; + }), + })); +} diff --git a/frontend/src/locales/de/data.json b/frontend/src/locales/de/data.json index a278e1b..6400f25 100644 --- a/frontend/src/locales/de/data.json +++ b/frontend/src/locales/de/data.json @@ -1666,5 +1666,1251 @@ "name": "Umweltüberwachungsplan", "description": "Laufendes Überwachungsrahmenwerk zur Verfolgung von Umwelt-KPIs, Festlegung von Reduktionszielen und Berichterstattung über Fortschritte bei den Nachhaltigkeitszielen." } + }, + "environmentalChecklist": { + "areas": { + "env-energy-carbon": { + "title": "Energie", + "items": { + "EC-01": { + "title": "Messung des Trainingsenergieverbrauchs", + "questions": [ + "Wurde der gesamte Energieverbrauch für das Modelltraining gemessen und dokumentiert (in kWh)?", + "Ist der Energiequellenmix (erneuerbar vs. fossil) der Trainingsinfrastruktur bekannt und erfasst?" + ] + }, + "EC-02": { + "title": "Messung des Inferenzenergieverbrauchs", + "questions": [ + "Wird der laufende Energieverbrauch während der Inferenz überwacht und gemeldet?", + "Werden Energie-pro-Anfrage-Metriken für Produktionsworkloads erfasst?" + ] + }, + "EC-03": { + "title": "Schätzung des CO2-Fußabdrucks", + "questions": [ + "Wurde der CO2-Fußabdruck des KI-Systems mit einer anerkannten Methodik geschätzt (z. B. GHG Protocol, ML CO2 Impact)?", + "Werden Scope-1-, -2- und -3-Emissionen in der CO2-Bewertung berücksichtigt?" + ] + }, + "EC-04": { + "title": "Ziele zur CO2-Reduktion", + "questions": [ + "Gibt es dokumentierte Ziele zur Reduzierung des CO2-Fußabdrucks des KI-Systems im Zeitverlauf?", + "Wird der Fortschritt bei den CO2-Reduktionszielen in festgelegten Intervallen überprüft?" + ] + }, + "EC-05": { + "title": "Nutzung erneuerbarer Energien", + "questions": [ + "Welcher Anteil der vom KI-System verbrauchten Energie stammt aus erneuerbaren Quellen?", + "Gibt es Verpflichtungen oder Pläne zur Erhöhung des Anteils erneuerbarer Energien für KI-Workloads?" + ] + }, + "EC-06": { + "title": "CO2-Kompensation", + "questions": [ + "Wenn CO2-Kompensation eingesetzt wird, sind die Kompensationen verifiziert und stammen aus glaubwürdigen Programmen?" + ] + } + } + }, + "env-hardware": { + "title": "Hardware", + "items": { + "HW-01": { + "title": "Hardwareauswahl", + "questions": [ + "Wurden die Umweltauswirkungen der Hardwareauswahl (GPU-/TPU-Typ, Serverspezifikationen) bei der Beschaffung berücksichtigt?", + "Werden energieeffiziente Hardwareoptionen priorisiert, wenn die Leistungsanforderungen dies zulassen?" + ] + }, + "HW-02": { + "title": "Hardwareauslastung", + "questions": [ + "Werden die Hardwareauslastungsraten überwacht, um den Energieverbrauch im Leerlauf zu minimieren?", + "Werden Workload-Planungsstrategien (z. B. Stapelverarbeitung, Planung außerhalb der Spitzenzeiten) zur Effizienzsteigerung eingesetzt?" + ] + }, + "HW-03": { + "title": "Hardware-Lebensdauer", + "questions": [ + "Werden Hardware-Erneuerungszyklen geplant, um Leistungsanforderungen und Umweltauswirkungen auszugleichen?", + "Wird die Wiederverwendung, Aufarbeitung oder Spende von Hardware vor der Entsorgung in Betracht gezogen?" + ] + }, + "HW-04": { + "title": "Elektroschrott-Management", + "questions": [ + "Wird Hardware am Ende ihrer Lebensdauer über zertifizierte Elektroschrott-Recyclingprogramme entsorgt?", + "Werden gefährliche Materialien in Hardwarekomponenten gemäß den Vorschriften erfasst und verwaltet?" + ] + }, + "HW-05": { + "title": "Nachhaltigkeit der Lieferkette", + "questions": [ + "Werden Hardwarelieferanten hinsichtlich ihrer Umweltpraktiken und Nachhaltigkeitsverpflichtungen bewertet?" + ] + } + } + }, + "env-data-management": { + "title": "Daten", + "items": { + "DM-01": { + "title": "Datenspeichereffizienz", + "questions": [ + "Sind die Datenspeicherungspraktiken zur Minimierung des Energieverbrauchs optimiert (z. B. gestaffelte Speicherung, Komprimierung, Deduplizierung)?", + "Gibt es eine Datenaufbewahrungsrichtlinie, die sicherstellt, dass unnötige Daten gelöscht werden, um den Speicherbedarf zu reduzieren?" + ] + }, + "DM-02": { + "title": "Datenübertragungseffizienz", + "questions": [ + "Werden Datenübertragungsvolumen durch Edge-Verarbeitung, Caching oder Datenlokalitätsstrategien minimiert?", + "Werden die Umweltkosten großer Datenübertragungen (z. B. regionsübergreifend, cloudübergreifend) berücksichtigt?" + ] + }, + "DM-03": { + "title": "Auswahl des Rechenzentrums", + "questions": [ + "Werden Rechenzentren anhand von Umweltkriterien wie PUE, Wasserverbrauchseffizienz und Beschaffung erneuerbarer Energien ausgewählt?", + "Wird der geografische Standort der Rechenzentren zur Optimierung für kühlere Klimazonen oder die Verfügbarkeit erneuerbarer Energien gewählt?" + ] + }, + "DM-04": { + "title": "Wasserverbrauch", + "questions": [ + "Wird der Wasserverbrauch der Kühlsysteme für KI-Workloads gemessen und dokumentiert?", + "Werden wassereffiziente Kühlungstechnologien eingesetzt, wo dies machbar ist?" + ] + } + } + }, + "env-model-efficiency": { + "title": "Effizienz", + "items": { + "ME-01": { + "title": "Begründung der Modellgröße", + "questions": [ + "Ist die Modellgröße (Parameteranzahl) im Verhältnis zu den Aufgabenanforderungen begründet?", + "Wurden kleinere oder effizientere Modellarchitekturen evaluiert, bevor das endgültige Modell ausgewählt wurde?" + ] + }, + "ME-02": { + "title": "Trainingseffizienz", + "questions": [ + "Werden effiziente Trainingstechniken eingesetzt (z. B. Transfer Learning, Mixed-Precision-Training, Early Stopping)?", + "Ist die Anzahl der Trainingsläufe und Hyperparameter-Suchen dokumentiert und begründet?" + ] + }, + "ME-03": { + "title": "Inferenzoptimierung", + "questions": [ + "Werden Techniken zur Inferenzoptimierung angewendet (z. B. Quantisierung, Pruning, Destillation, Caching)?", + "Wird der Kompromiss zwischen Modellgenauigkeit und Rechenkosten explizit bewertet?" + ] + }, + "ME-04": { + "title": "Häufigkeit des Neutrainings", + "questions": [ + "Ist der Neutrainingsplan auf Basis von Leistungsverschlechterungsmetriken statt fester Intervalle begründet?", + "Werden inkrementelle oder Fine-Tuning-Ansätze anstelle eines vollständigen Neutrainings verwendet, wo möglich?" + ] + }, + "ME-05": { + "title": "Benchmarking", + "questions": [ + "Werden Umwelteffizienzmetriken (z. B. Genauigkeit pro Watt, Durchsatz pro kWh) neben Leistungsmetriken erfasst?" + ] + } + } + }, + "env-lifecycle": { + "title": "Lebenszyklus", + "items": { + "LC-01": { + "title": "Lebenszyklusbewertung", + "questions": [ + "Wurde eine Lebenszyklusbewertung durchgeführt, die die Umweltauswirkungen von der Entwicklung über die Bereitstellung bis zur Außerbetriebnahme abdeckt?", + "Sind die in der Hardware-Herstellung enthaltenen Emissionen in der Lebenszyklusbewertung berücksichtigt?" + ] + }, + "LC-02": { + "title": "Außerbetriebnahmeplan", + "questions": [ + "Gibt es einen dokumentierten Plan für die umweltverantwortliche Außerbetriebnahme des KI-Systems und seiner Infrastruktur?", + "Behandelt der Außerbetriebnahmeplan die Datenlöschung, Hardwareentsorgung und Dienstabwicklung?" + ] + }, + "LC-03": { + "title": "Nachhaltigkeit von Anbietern und Cloud", + "questions": [ + "Werden Cloud-Anbieter und Drittanbieter hinsichtlich ihrer Umweltverpflichtungen und Berichterstattung bewertet?", + "Enthalten Service-Level-Vereinbarungen Kriterien für die Umweltleistung?" + ] + }, + "LC-04": { + "title": "Kreislaufwirtschaftspraktiken", + "questions": [ + "Werden Kreislaufwirtschaftsprinzipien (Wiederverwendung, Reparatur, Recycling) auf KI-Infrastruktur und Hardware angewendet?" + ] + } + } + }, + "env-monitoring": { + "title": "Monitoring", + "items": { + "EM-01": { + "title": "Umwelt-KPIs", + "questions": [ + "Sind Umweltkennzahlen (KPIs) für das KI-System definiert (z. B. Energie pro Inferenz, Gesamt-CO2, Wasserverbrauch)?", + "Werden die KPIs in regelmäßigen Abständen überprüft und aktualisiert?" + ] + }, + "EM-02": { + "title": "Berichterstattung und Offenlegung", + "questions": [ + "Werden Umweltauswirkungsdaten an interne Stakeholder und gegebenenfalls an externe Stellen gemeldet?", + "Folgt die Umweltberichterstattung einem anerkannten Standard oder Rahmenwerk (z. B. GRI, CDP, TCFD)?" + ] + }, + "EM-03": { + "title": "Kontinuierliche Verbesserung", + "questions": [ + "Gibt es einen dokumentierten Prozess zur Identifizierung und Umsetzung von Umweltverbesserungen auf Basis von Überwachungsdaten?", + "Werden Erkenntnisse aus Umweltvorfällen oder Leistungsdefiziten systematisch erfasst?" + ] + }, + "EM-04": { + "title": "Regulatorische Konformität", + "questions": [ + "Verfolgt und erfüllt die Organisation die geltenden Umweltvorschriften im Zusammenhang mit KI- und Rechenzentrumsbetrieb?" + ] + }, + "EM-05": { + "title": "Integration der Nachhaltigkeitsziele", + "questions": [ + "Sind KI-spezifische Umweltziele mit den übergeordneten Nachhaltigkeitszielen und -verpflichtungen der Organisation abgestimmt (z. B. Netto-Null-Zusagen)?" + ] + } + } + } + } + }, + "undpChecklist": { + "areas": { + "undp-zero-question": { + "title": "Nullfrage", + "items": { + "ZQ-01": { + "title": "Bewertung der KI-Notwendigkeit", + "questions": [ + "Wurde bewertet, ob eine KI-basierte Lösung tatsächlich notwendig ist, oder ob nicht-algorithmische Alternativen dasselbe Ziel erreichen könnten? (KRITISCH)" + ] + }, + "ZQ-02": { + "title": "Begründung für KI", + "questions": [ + "Wurde die Begründung für die Wahl eines KI-basierten Ansatzes gegenüber Alternativen dokumentiert?" + ] + }, + "ZQ-03": { + "title": "SWOT-Analyse", + "questions": [ + "Wurde eine SWOT-Analyse (Stärken, Schwächen, Chancen, Risiken) des KI-Ansatzes im Vergleich zu Alternativen durchgeführt?" + ] + }, + "ZQ-04": { + "title": "Vereinbarkeit mit Grundrechten", + "questions": [ + "Wurde bestätigt, dass die KI-Lösung kein Ziel verfolgt, das grundsätzlich mit Grundrechten unvereinbar ist?" + ] + } + } + }, + "undp-org-readiness": { + "title": "Bereitschaft", + "items": { + "OR-01": { + "title": "Menschenrechtspolitik", + "questions": [ + "Verfügt die Organisation über eine dokumentierte Menschenrechtspolitik, die den Entwurf, die Entwicklung und den Einsatz von KI abdeckt?" + ] + }, + "OR-02": { + "title": "Unterstützung durch die Führungsebene", + "questions": [ + "Unterstützt und finanziert die Führungsebene aktiv die menschenrechtliche Sorgfaltspflicht für KI-Initiativen?" + ] + }, + "OR-03": { + "title": "Meldekanäle", + "questions": [ + "Gibt es dedizierte Kanäle, über die Mitarbeitende mögliche Menschenrechtsprobleme im Zusammenhang mit KI-Systemen melden können?" + ] + }, + "OR-04": { + "title": "Richtlinienüberprüfung", + "questions": [ + "Überprüft und aktualisiert die Organisation regelmäßig ihre Richtlinien, um aufkommende KI-bezogene Menschenrechtsfragen zu berücksichtigen?" + ] + }, + "OR-05": { + "title": "Abteilungsübergreifende Zusammenarbeit", + "questions": [ + "Wird die abteilungsübergreifende Zusammenarbeit zu Menschenrechten bei KI gefördert?" + ] + }, + "OR-06": { + "title": "Stakeholder-Einbindung", + "questions": [ + "Bindet die Organisation Stakeholder (einschließlich betroffener Gemeinschaften) für Beiträge und Feedback während des KI-Lebenszyklus ein?" + ] + }, + "OR-07": { + "title": "Ressourcenzuweisung", + "questions": [ + "Stellt die Organisation ausreichende Ressourcen für Schulungen, Risikobewertungen und Stakeholder-Einbindung bereit?" + ] + }, + "OR-08": { + "title": "Öffentliche Transparenz", + "questions": [ + "Priorisiert die Organisation Transparenz und Kommunikation mit der Öffentlichkeit über den KI-Einsatz?" + ] + }, + "OR-09": { + "title": "Verständnis des Managements", + "questions": [ + "Verfügt das Management über ein umfassendes Verständnis der menschenrechtlichen Auswirkungen von KI?" + ] + }, + "OR-10": { + "title": "Mitarbeiterschulung", + "questions": [ + "Erhalten Mitarbeitende regelmäßig Schulungen zu Menschenrechten und ethischen Aspekten bei KI?" + ] + }, + "OR-11": { + "title": "Zuständiges Personal", + "questions": [ + "Sind bestimmte Mitarbeitende oder Teams für die Überwachung und Bearbeitung von Menschenrechtsfragen in KI-Projekten verantwortlich?" + ] + }, + "OR-12": { + "title": "Externe Expertise", + "questions": [ + "Arbeitet die Organisation mit externen Menschenrechts- und KI-Experten zusammen?" + ] + }, + "OR-13": { + "title": "Hinweisgeberschutz", + "questions": [ + "Sind Mitarbeitende vor Vergeltungsmaßnahmen geschützt, wenn sie Menschenrechtsbedenken zu KI äußern?" + ] + }, + "OR-14": { + "title": "Einbeziehung von Feedback", + "questions": [ + "Gibt es einen Prozess zur Einbeziehung von Stakeholder-Feedback in KI-Praktiken?" + ] + }, + "OR-15": { + "title": "Juristische Expertise", + "questions": [ + "Hat die Organisation Zugang zu juristischer Expertise im Bereich Menschenrechte und KI?" + ] + }, + "OR-16": { + "title": "Ressourcen für bewährte Verfahren", + "questions": [ + "Werden den Mitarbeitenden Ressourcen bereitgestellt, um über bewährte Verfahren auf dem Laufenden zu bleiben?" + ] + }, + "OR-17": { + "title": "Branchenteilnahme", + "questions": [ + "Nimmt die Organisation an Branchengruppen oder Foren zu Menschenrechten und KI teil?" + ] + }, + "OR-18": { + "title": "Bewertung von Kompetenzlücken", + "questions": [ + "Bewertet und adressiert die Organisation regelmäßig KI-bezogene Menschenrechtskompetenzlücken?" + ] + }, + "OR-19": { + "title": "Verfahren zur Folgenabschätzung", + "questions": [ + "Gibt es ein systematisches Verfahren zur Menschenrechts-Folgenabschätzung für alle KI-Projekte? (KRITISCH)" + ] + }, + "OR-20": { + "title": "Bewertung von Drittanbieter-KI", + "questions": [ + "Gibt es Verfahren zur Bewertung der Menschenrechtsauswirkungen von integrierten oder genutzten Drittanbieter-KI-Systemen? (KRITISCH)" + ] + }, + "OR-21": { + "title": "Risikoidentifizierung", + "questions": [ + "Gibt es einen systematischen Risikoidentifizierungsprozess, einschließlich Tests auf Zuverlässigkeit, Genauigkeit und Widerstandsfähigkeit?" + ] + }, + "OR-22": { + "title": "Einbindung der Gemeinschaft", + "questions": [ + "Werden Stakeholder (einschließlich betroffener Gemeinschaften) in den KI-Bereitstellungsprozess einbezogen?" + ] + }, + "OR-23": { + "title": "Bewertung vor der Bereitstellung", + "questions": [ + "Durchlaufen alle KI-Projekte vor der Bereitstellung eine Menschenrechts- und Datenschutz-Folgenabschätzung? (KRITISCH)" + ] + }, + "OR-24": { + "title": "Datensicherheitsprotokolle", + "questions": [ + "Sind Datensicherheits- und Datenschutzprotokolle für alle KI-bezogenen Prozesse eingerichtet?" + ] + }, + "OR-25": { + "title": "Regulatorische Aktualisierungen", + "questions": [ + "Werden Prozesse regelmäßig aktualisiert, um neue Vorschriften und Standards zu integrieren?" + ] + }, + "OR-26": { + "title": "Aufsichtsprozess", + "questions": [ + "Ist ein Aufsichtsprozess zur Überwachung der KI-Systemleistung und der Einhaltung von Menschenrechtsstandards eingerichtet? (KRITISCH)" + ] + }, + "OR-27": { + "title": "Schadensbegrenzung bei Ausfällen", + "questions": [ + "Ist die Organisation in der Lage, negative Auswirkungen von KI-Systemausfällen zu begrenzen und zu minimieren?" + ] + }, + "OR-28": { + "title": "Abhilfemechanismus", + "questions": [ + "Ist ein Abhilfemechanismus für Personen eingerichtet, die durch KI-Systeme nachteilig betroffen sind? (KRITISCH)" + ] + } + } + }, + "undp-planning": { + "title": "Planung", + "items": { + "PS-01": { + "title": "Systemzweck", + "questions": [ + "Wurde der Hauptzweck des KI-Systems dokumentiert? (KRITISCH)" + ] + }, + "PS-02": { + "title": "Technische Merkmale", + "questions": [ + "Wurden die wesentlichen technischen Merkmale des Systems dokumentiert (Art des KI-Modells, Architektur)?" + ] + }, + "PS-03": { + "title": "Einsatzgebiete", + "questions": [ + "Wurden alle Länder/Rechtsordnungen identifiziert, in denen das System eingesetzt werden soll?" + ] + }, + "PS-04": { + "title": "Datentypen", + "questions": [ + "Wurden alle Arten von verarbeiteten Daten (personenbezogen, nicht personenbezogen, besondere Kategorien) für Training und Betrieb identifiziert? (KRITISCH)" + ] + }, + "PS-05": { + "title": "Datenflusskartierung", + "questions": [ + "Wurden alle Datenflüsse kartiert -- von der Erhebung über die Verarbeitung bis zur Speicherung und Löschung?" + ] + }, + "PS-06": { + "title": "Betroffene Personen", + "questions": [ + "Wurden alle Personen oder Gruppen identifiziert, die potenziell vom KI-System betroffen sind? (KRITISCH)" + ] + }, + "PS-07": { + "title": "Vulnerable Gruppen", + "questions": [ + "Wurde bewertet, ob betroffene Gruppen verletzliche Personen oder Gruppen umfassen (Kinder, Minderheiten, Menschen mit Behinderungen usw.)?" + ] + }, + "PS-08": { + "title": "Pflichtenträger", + "questions": [ + "Wurden alle Pflichtenträger identifiziert -- wer ist am Entwurf, der Bereitstellung und dem Einsatz beteiligt, und welche Rolle haben sie? (KRITISCH)" + ] + }, + "PS-09": { + "title": "Verantwortungskette", + "questions": [ + "Wurde die Verantwortungskette vom Entwickler bis zum Betreiber dokumentiert?" + ] + }, + "PS-10": { + "title": "Bestehende Richtlinien", + "questions": [ + "Wurden bestehende Richtlinien und Verfahren zur Bewertung von Menschenrechtsauswirkungen (einschließlich Stakeholder-Einbindung) dokumentiert?" + ] + }, + "PS-11": { + "title": "Frühere Folgenabschätzungen", + "questions": [ + "Wurden frühere Folgenabschätzungen dokumentiert (z. B. Datenschutz-Folgenabschätzung, branchenspezifische Bewertungen)?" + ] + }, + "PS-12": { + "title": "Identifizierung betroffener Gruppen", + "questions": [ + "Wurden alle Gruppen oder Gemeinschaften identifiziert, die potenziell vom KI-System betroffen sind (einschließlich während der Entwicklung)? (KRITISCH)" + ] + }, + "PS-13": { + "title": "Relevante Stakeholder", + "questions": [ + "Wurden alle relevanten einzubeziehenden Stakeholder identifiziert (Zivilgesellschaft, internationale Organisationen, Experten, Branchenverbände, Journalisten)?" + ] + }, + "PS-14": { + "title": "Weitere Pflichtenträger", + "questions": [ + "Wurden weitere Pflichtenträger über den KI-Anbieter und -Betreiber hinaus identifiziert (nationale Behörden, Regierungsstellen)?" + ] + }, + "PS-15": { + "title": "Bewertung der Lieferkette", + "questions": [ + "Wurde bewertet, ob Geschäftspartner und Lieferanten (Unterauftragnehmer von KI-Systemen und Datensätzen) in die Bewertung einbezogen wurden? (KRITISCH)" + ] + }, + "PS-16": { + "title": "Menschenrechtsauswirkungen der Lieferanten", + "questions": [ + "Hat der KI-Anbieter eine Lieferkettenbewertung bezüglich potenzieller Menschenrechtsauswirkungen durch Lieferanten/Auftragnehmer durchgeführt? (KRITISCH)" + ] + }, + "PS-17": { + "title": "Standards für Lieferanten", + "questions": [ + "Hat der KI-Anbieter Menschenrechtsstandards oder Audits bei Lieferanten gefördert?" + ] + }, + "PS-18": { + "title": "Öffentliche Kommunikation", + "questions": [ + "Kommunizieren der KI-Anbieter und die Entwickler öffentlich über potenzielle Menschenrechtsauswirkungen des KI-Systems?" + ] + }, + "PS-19": { + "title": "Mitarbeiterschulung", + "questions": [ + "Bieten der KI-Anbieter und die Entwickler Schulungen zu Menschenrechtsstandards für Führungskräfte und Beschaffungsmitarbeitende an?" + ] + } + } + }, + "undp-rights-mapping": { + "title": "Rechte", + "items": { + "HRM-01": { + "title": "Identifizierung der Rechte", + "questions": [ + "Wurden alle potenziell vom KI-System betroffenen Menschenrechte anhand der umfassenden Rechtecheckliste identifiziert? (KRITISCH)" + ] + }, + "HRM-02": { + "title": "Menschenwürde", + "questions": [ + "Wurde die potenzielle Auswirkung auf die Menschenwürde bewertet?" + ] + }, + "HRM-03": { + "title": "Diskriminierungsfreiheit", + "questions": [ + "Wurde die potenzielle Auswirkung auf die Diskriminierungsfreiheit bewertet?" + ] + }, + "HRM-04": { + "title": "Recht auf Leben", + "questions": [ + "Wurde die potenzielle Auswirkung auf das Recht auf Leben bewertet?" + ] + }, + "HRM-05": { + "title": "Freiheit von Sklaverei", + "questions": [ + "Wurde die potenzielle Auswirkung auf die Freiheit von Sklaverei bewertet?" + ] + }, + "HRM-06": { + "title": "Freiheit von unmenschlicher Behandlung", + "questions": [ + "Wurde die potenzielle Auswirkung auf die Freiheit von unmenschlicher/erniedrigender Behandlung bewertet?" + ] + }, + "HRM-07": { + "title": "Recht auf Privatsphäre", + "questions": [ + "Wurde die potenzielle Auswirkung auf das Recht auf Privatsphäre bewertet?" + ] + }, + "HRM-08": { + "title": "Recht auf Eigentum", + "questions": [ + "Wurde die potenzielle Auswirkung auf das Recht auf Eigentum bewertet?" + ] + }, + "HRM-09": { + "title": "Gedankenfreiheit", + "questions": [ + "Wurde die potenzielle Auswirkung auf die Gedanken-, Gewissens- und Religionsfreiheit bewertet?" + ] + }, + "HRM-10": { + "title": "Meinungsfreiheit", + "questions": [ + "Wurde die potenzielle Auswirkung auf die Meinungsfreiheit bewertet?" + ] + }, + "HRM-11": { + "title": "Freizügigkeit", + "questions": [ + "Wurde die potenzielle Auswirkung auf die Freizügigkeit bewertet?" + ] + }, + "HRM-12": { + "title": "Versammlungsfreiheit", + "questions": [ + "Wurde die potenzielle Auswirkung auf die Versammlungsfreiheit bewertet?" + ] + }, + "HRM-13": { + "title": "Vereinigungsfreiheit", + "questions": [ + "Wurde die potenzielle Auswirkung auf die Vereinigungsfreiheit bewertet?" + ] + }, + "HRM-14": { + "title": "Recht auf Ehe und Familie", + "questions": [ + "Wurde die potenzielle Auswirkung auf das Recht auf Ehe und Familie bewertet?" + ] + }, + "HRM-15": { + "title": "Angemessener Lebensstandard", + "questions": [ + "Wurde die potenzielle Auswirkung auf das Recht auf einen angemessenen Lebensstandard (einschließlich Gesundheit) bewertet?" + ] + }, + "HRM-16": { + "title": "Recht auf Bildung", + "questions": [ + "Wurde die potenzielle Auswirkung auf das Recht auf Bildung bewertet?" + ] + }, + "HRM-17": { + "title": "Recht auf soziale Sicherheit", + "questions": [ + "Wurde die potenzielle Auswirkung auf das Recht auf soziale Sicherheit bewertet?" + ] + }, + "HRM-18": { + "title": "Kulturelles und wissenschaftliches Leben", + "questions": [ + "Wurde die potenzielle Auswirkung auf das Recht auf Teilnahme am kulturellen, künstlerischen und wissenschaftlichen Leben bewertet?" + ] + }, + "HRM-19": { + "title": "Recht auf Arbeit", + "questions": [ + "Wurde die potenzielle Auswirkung auf das Recht auf Arbeit bewertet?" + ] + }, + "HRM-20": { + "title": "Recht auf Freizeit", + "questions": [ + "Wurde die potenzielle Auswirkung auf das Recht auf Freizeit und Erholung bewertet?" + ] + }, + "HRM-21": { + "title": "Minderheitenrechte", + "questions": [ + "Wurde die potenzielle Auswirkung auf die Rechte religiöser, ethnischer oder sprachlicher Minderheiten bewertet?" + ] + }, + "HRM-22": { + "title": "Kinderrechte", + "questions": [ + "Wurde die potenzielle Auswirkung auf die Rechte von Kindern bewertet?" + ] + }, + "HRM-23": { + "title": "Freiheit von Folter", + "questions": [ + "Wurde die potenzielle Auswirkung auf die Freiheit von Folter bewertet?" + ] + }, + "HRM-24": { + "title": "Anerkennung vor dem Gesetz", + "questions": [ + "Wurde die potenzielle Auswirkung auf das Recht auf Anerkennung vor dem Gesetz bewertet?" + ] + }, + "HRM-25": { + "title": "Gleichheit vor dem Gesetz", + "questions": [ + "Wurde die potenzielle Auswirkung auf das Recht auf Gleichheit vor dem Gesetz bewertet?" + ] + }, + "HRM-26": { + "title": "Zugang zur Justiz", + "questions": [ + "Wurde die potenzielle Auswirkung auf den Zugang zur Justiz bewertet?" + ] + }, + "HRM-27": { + "title": "Freiheit von willkürlicher Inhaftierung", + "questions": [ + "Wurde die potenzielle Auswirkung auf die Freiheit von willkürlicher Inhaftierung bewertet?" + ] + }, + "HRM-28": { + "title": "Recht auf ein faires Verfahren", + "questions": [ + "Wurde die potenzielle Auswirkung auf das Recht auf ein faires Verfahren bewertet?" + ] + }, + "HRM-29": { + "title": "Unschuldsvermutung", + "questions": [ + "Wurde die potenzielle Auswirkung auf die Unschuldsvermutung bewertet?" + ] + }, + "HRM-30": { + "title": "Recht auf Rechtsbehelf", + "questions": [ + "Wurde die potenzielle Auswirkung auf das Recht auf Rechtsbehelf bewertet?" + ] + }, + "HRM-31": { + "title": "Recht auf Asyl", + "questions": [ + "Wurde die potenzielle Auswirkung auf das Recht auf Asyl bewertet?" + ] + }, + "HRM-32": { + "title": "Recht auf Staatsangehörigkeit", + "questions": [ + "Wurde die potenzielle Auswirkung auf das Recht auf Staatsangehörigkeit bewertet?" + ] + }, + "HRM-33": { + "title": "Teilnahme an öffentlichen Angelegenheiten", + "questions": [ + "Wurde die potenzielle Auswirkung auf das Recht auf Teilnahme an öffentlichen Angelegenheiten bewertet?" + ] + }, + "HRM-34": { + "title": "Rechtsinstrumente", + "questions": [ + "Wurden alle anwendbaren internationalen/regionalen Rechtsinstrumente zum Menschenrechtsschutz in den Einsatzgebieten identifiziert?" + ] + }, + "HRM-35": { + "title": "Aufsichtsorgane", + "questions": [ + "Wurden relevante Menschenrechtsgerichte oder Aufsichtsorgane identifiziert?" + ] + }, + "HRM-36": { + "title": "Rechtsprechung", + "questions": [ + "Wurde die relevanteste Rechtsprechung und die einschlägigen Rechtsvorschriften im Bereich der Menschenrechte identifiziert?" + ] + } + } + }, + "undp-data-diligence": { + "title": "Sorgfalt", + "items": { + "DD-01": { + "title": "Datenherkunft", + "questions": [ + "Ist die Herkunft der primären Trainingsdaten dokumentiert (erhoben, gekauft, erfasst)? (KRITISCH)" + ] + }, + "DD-02": { + "title": "Dateneinwilligung", + "questions": [ + "Wurde die Einwilligung zur Datenerhebung ordnungsgemäß eingeholt? (KRITISCH)" + ] + }, + "DD-03": { + "title": "Datenvielfalt", + "questions": [ + "Wurden Maßnahmen ergriffen, um sicherzustellen, dass die Daten die Vielfalt der betroffenen Bevölkerung widerspiegeln (Geschlecht, Herkunft, Alter, Behinderung, Standort)?" + ] + }, + "DD-04": { + "title": "Datenverzerrung", + "questions": [ + "Wurden bekannte Einschränkungen oder potenzielle Verzerrungen im Datensatz identifiziert und dokumentiert?" + ] + }, + "DD-05": { + "title": "Schutz sensibler Daten", + "questions": [ + "Werden personenbezogene/sensible Daten während des gesamten Lebenszyklus angemessen behandelt und geschützt?" + ] + }, + "DD-06": { + "title": "Datenkennzeichnung", + "questions": [ + "Sind die Datenkennzeichnungsprozesse dokumentiert, einschließlich potenzieller Quellen subjektiver Verzerrung?" + ] + }, + "DD-07": { + "title": "Trainingsziel", + "questions": [ + "Ist das spezifische Ziel des KI-Trainings dokumentiert (klärt die beabsichtigte Funktion gegenüber möglichem Missbrauch)?" + ] + }, + "DD-08": { + "title": "Fairnesskriterien", + "questions": [ + "Wurden Fairnesskriterien/-metriken während des Trainings und der Evaluierung verwendet (dokumentiert, welche)?" + ] + }, + "DD-09": { + "title": "Modelleinschränkungen", + "questions": [ + "Sind bekannte Einschränkungen, Fehlerszenarien und Leistungsgrenzen des trainierten Modells dokumentiert?" + ] + }, + "DD-10": { + "title": "Modelltyp", + "questions": [ + "Ist der Typ des KI-Modells mit Begründung für die Auswahl dokumentiert (prädiktiv, generativ usw.)?" + ] + }, + "DD-11": { + "title": "Leistungsmessung", + "questions": [ + "Wird die Systemleistung gemessen und dokumentiert? (KRITISCH)" + ] + }, + "DD-12": { + "title": "Leistung nach Untergruppen", + "questions": [ + "Sind Leistungsergebnisse nach relevanten Untergruppen aufgeschlüsselt verfügbar (Alter, Geschlecht, Herkunft, Ethnizität, Behinderung)? (KRITISCH)" + ] + }, + "DD-13": { + "title": "Modelldokumentation", + "questions": [ + "Ist eine Modelldokumentation verfügbar (z. B. Model Card, Datenblatt)?" + ] + }, + "DD-14": { + "title": "Erklärbarkeit", + "questions": [ + "Sind Funktionen zur Erklärung spezifischer KI-Entscheidungen/-Ausgaben verfügbar (Erklärbarkeit)? (KRITISCH)" + ] + }, + "DD-15": { + "title": "Menschliche Aufsicht", + "questions": [ + "Ist menschliche Aufsicht im Einsatzkontext geplant oder erforderlich? (KRITISCH)" + ] + }, + "DD-16": { + "title": "Überwachung nach der Bereitstellung", + "questions": [ + "Gibt es einen Prozess für die Überwachung und Aktualisierung nach der Bereitstellung? (KRITISCH)" + ] + }, + "DD-17": { + "title": "Feedback und Beschwerden", + "questions": [ + "Gibt es einen Prozess für den Umgang mit Feedback, Beschwerden oder identifizierten Problemen? (KRITISCH)" + ] + }, + "DD-18": { + "title": "Eingabetests", + "questions": [ + "Wurden Eingabetests durchgeführt (Randfälle -- informelle Sprache, ungewöhnliche Namen, extreme Werte)?" + ] + }, + "DD-19": { + "title": "Verzerrungsprüfung", + "questions": [ + "Wurde eine Verzerrungsprüfung durchgeführt (identische Eingaben mit unterschiedlichen demographischen Profilen)?" + ] + }, + "DD-20": { + "title": "Funktionstest", + "questions": [ + "Wurde ein Funktionstest durchgeführt (erfüllt das System zuverlässig, was es verspricht)?" + ] + }, + "DD-21": { + "title": "Barrierefreiheitsprüfung", + "questions": [ + "Wurde eine Barrierefreiheitsprüfung durchgeführt (Screenreader-Kompatibilität, alternative Eingabemethoden)?" + ] + }, + "DD-22": { + "title": "Ausgabeüberprüfung", + "questions": [ + "Wurde eine Ausgabeüberprüfung durchgeführt (Prüfung auf Halluzinationen, Sachfehler, voreingenommene/schädliche Inhalte)?" + ] + } + } + }, + "undp-risk-analysis": { + "title": "Analyse", + "items": { + "RA-01": { + "title": "Wahrscheinlichkeitsbewertung", + "questions": [ + "Wurde die Wahrscheinlichkeit nachteiliger Auswirkungen für jedes betroffene Recht bewertet (Niedrig / Mittel / Hoch / Sehr hoch)?" + ] + }, + "RA-02": { + "title": "Expositionsbewertung", + "questions": [ + "Wurde die Exposition bewertet -- der Anteil der identifizierten Rechteinhaber, die potenziell betroffen sind (Niedrig / Mittel / Hoch / Sehr hoch)?" + ] + }, + "RA-03": { + "title": "Gesamtwahrscheinlichkeit", + "questions": [ + "Wurde die Gesamtwahrscheinlichkeit anhand der Wahrscheinlichkeit-x-Expositions-Matrix berechnet?" + ] + }, + "RA-04": { + "title": "Schwere der Beeinträchtigung", + "questions": [ + "Wurde die Schwere der Beeinträchtigung bewertet -- unter Berücksichtigung von Intensität, Folgen, Bedeutung des verletzten Rechts, gruppenspezifischen Auswirkungen und Verletzlichkeit (Niedrig / Mittel / Hoch / Sehr hoch)?" + ] + }, + "RA-05": { + "title": "Aufwand zur Überwindung", + "questions": [ + "Wurde der Aufwand zur Überwindung nachteiliger Auswirkungen bewertet -- Umkehrbarkeit und Schwierigkeit der Abhilfe (Niedrig / Mittel / Hoch / Sehr hoch)?" + ] + }, + "RA-06": { + "title": "Gesamtschwere", + "questions": [ + "Wurde die Gesamtschwere anhand der Schwere-x-Aufwand-Matrix berechnet?" + ] + }, + "RA-07": { + "title": "Risikoindex", + "questions": [ + "Wurde der Risikoindex für jedes betroffene Recht berechnet (Wahrscheinlichkeit-x-Schwere-Matrix)? (KRITISCH)" + ] + }, + "RA-08": { + "title": "Auswirkungsvisualisierung", + "questions": [ + "Wurde ein Radialdiagramm oder eine gleichwertige Visualisierung erstellt, die die Auswirkungen auf alle betroffenen Rechte zeigt?" + ] + }, + "RA-09": { + "title": "Unabhängige Bewertung", + "questions": [ + "Wurde jedes Recht unabhängig bewertet -- kein kumulativer Index, der Auswirkungen über verschiedene Rechte hinweg zusammenfasst?" + ] + }, + "RA-10": { + "title": "Risikoausschlussfaktoren", + "questions": [ + "Wurden Faktoren bewertet, die ein Risiko ausschließen können (rechtliche Einschränkungen, die bestimmte Auswirkungen rechtfertigen)?" + ] + }, + "RA-11": { + "title": "Abwägungstest", + "questions": [ + "Wurde ein Abwägungstest angewendet, wenn kollidierende Rechte bestehen (nur nach individueller Folgenabschätzung)?" + ] + }, + "RA-12": { + "title": "Nutzenanalyse", + "questions": [ + "Wurden potenzielle Vorteile hinsichtlich der Stärkung oder Sicherung anderer geschützter Rechte analysiert?" + ] + } + } + }, + "undp-risk-management": { + "title": "Steuerung", + "items": { + "RMG-01": { + "title": "Minderungsmaßnahmen", + "questions": [ + "Wurden spezifische Maßnahmen zur Verhinderung oder Minderung jedes als Mittel, Hoch oder Sehr hoch eingestuften Risikos identifiziert? (KRITISCH)" + ] + }, + "RMG-02": { + "title": "Kontextualisierte Maßnahmen", + "questions": [ + "Sind die Maßnahmen auf das spezifische KI-System, seine Eigenschaften und den Einsatzkontext zugeschnitten?" + ] + }, + "RMG-03": { + "title": "Wahrscheinlichkeit und Schwere", + "questions": [ + "Adressieren die Maßnahmen sowohl die Wahrscheinlichkeits- als auch die Schweredimension?" + ] + }, + "RMG-04": { + "title": "Umsetzungszeitplan", + "questions": [ + "Wurde ein Umsetzungszeitplan für jede Maßnahme festgelegt?" + ] + }, + "RMG-05": { + "title": "Verantwortlichkeitszuweisung", + "questions": [ + "Wurde für jede Maßnahme eine verantwortliche Person/ein verantwortliches Team benannt?" + ] + }, + "RMG-06": { + "title": "Neubewertung des Restrisikos", + "questions": [ + "Wurde nach Umsetzung der Minderungsmaßnahmen das Restrisiko für jedes betroffene Recht neu bewertet? (KRITISCH)" + ] + }, + "RMG-07": { + "title": "Restwahrscheinlichkeit", + "questions": [ + "Wurde die Restwahrscheinlichkeit neu berechnet?" + ] + }, + "RMG-08": { + "title": "Restschwere", + "questions": [ + "Wurde die Restschwere neu berechnet?" + ] + }, + "RMG-09": { + "title": "Restauswirkung", + "questions": [ + "Wurde die verbleibende Gesamtauswirkung dokumentiert?" + ] + }, + "RMG-10": { + "title": "Akzeptanzbewertung", + "questions": [ + "Wurde die Akzeptabilität des Restrisikos bewertet?" + ] + }, + "RMG-11": { + "title": "Anhaltendes hohes Risiko", + "questions": [ + "Wenn das Restrisiko Hoch oder Sehr hoch bleibt, wurden zusätzliche Maßnahmen oder eine Neugestaltung des Projekts in Betracht gezogen?" + ] + }, + "RMG-12": { + "title": "Entscheidungsdokumentation", + "questions": [ + "Wird eine vollständige Dokumentation aller Risikobewertungsentscheidungen, Bewertungsbegründungen und Matrixauswahlen geführt? (KRITISCH)" + ] + }, + "RMG-13": { + "title": "Skalierungskriterien", + "questions": [ + "Gibt es eine Dokumentation aller verwendeten Skalierungskriterien und der Begründung für die Bereiche?" + ] + }, + "RMG-14": { + "title": "Stakeholder-Beiträge", + "questions": [ + "Sind alle Stakeholder-Beiträge dokumentiert?" + ] + }, + "RMG-15": { + "title": "Wirksamkeitsdokumentation", + "questions": [ + "Sind die Minderungsmaßnahmen und ihre erwartete Wirksamkeit dokumentiert?" + ] + } + } + }, + "undp-monitoring": { + "title": "Monitoring", + "items": { + "MI-01": { + "title": "Überwachungsplan", + "questions": [ + "Wurde ein Überwachungsplan für die Leistung des KI-Systems nach der Bereitstellung erstellt? (KRITISCH)" + ] + }, + "MI-02": { + "title": "Periodische Neubewertung", + "questions": [ + "Wurde ein Zeitplan für die periodische Neubewertung festgelegt (zirkulärer iterativer Ansatz)?" + ] + }, + "MI-03": { + "title": "Drift-Erkennung", + "questions": [ + "Gibt es einen Prozess zur Erkennung von Modell-Drift und aufkommenden Verzerrungen im Zeitverlauf?" + ] + }, + "MI-04": { + "title": "Feedbackkanäle", + "questions": [ + "Wurden Feedbackkanäle für betroffene Personen eingerichtet, um Schäden zu melden? (KRITISCH)" + ] + }, + "MI-05": { + "title": "Abhilfemechanismus", + "questions": [ + "Ist ein wirksamer Abhilfe-/Wiedergutmachungsmechanismus für nachteilig betroffene Personen in Betrieb? (KRITISCH)" + ] + }, + "MI-06": { + "title": "Auslöser für Neubewertung", + "questions": [ + "Wurden Auslöser definiert, wann eine vollständige Neubewertung erforderlich ist (z. B. wesentliches System-Update, Änderung des Einsatzkontexts, neue regulatorische Anforderungen, gemeldete Vorfälle)?" + ] + }, + "MI-07": { + "title": "Regulatorische Integration", + "questions": [ + "Gibt es einen Prozess zur Integration neuer Vorschriften und Standards, sobald diese entstehen?" + ] + }, + "MI-08": { + "title": "Feedback-Kreislauf", + "questions": [ + "Fließen die Ergebnisse der Überwachung in den Risikobewertungs- und Minderungszyklus zurück?" + ] + } + } + }, + "undp-framework-alignment": { + "title": "Ausrichtung", + "items": { + "FA-01": { + "title": "Staatliche Schutzpflicht", + "questions": [ + "UNGPs Säule I -- Gibt es ein Bewusstsein für staatliche Verpflichtungen in den Einsatzgebieten?" + ] + }, + "FA-02": { + "title": "Unternehmerische Verantwortung", + "questions": [ + "UNGPs Säule II -- Hat die Organisation eine menschenrechtliche Sorgfaltsprüfung über den gesamten KI-Lebenszyklus durchgeführt?" + ] + }, + "FA-03": { + "title": "Zugang zu Abhilfe", + "questions": [ + "UNGPs Säule III -- Sind wirksame Beschwerdemechanismen für betroffene Personen vorhanden?" + ] + }, + "FA-04": { + "title": "Inklusives Wachstum", + "questions": [ + "OECD -- Kommt das KI-System der Gesellschaft insgesamt zugute und verschärft es keine Ungleichheiten?" + ] + }, + "FA-05": { + "title": "Menschenzentrierte Werte", + "questions": [ + "OECD -- Wurde eine Bewertung potenzieller Diskriminierung und ungleicher Ergebnisse abgeschlossen?" + ] + }, + "FA-06": { + "title": "Transparenz und Erklärbarkeit", + "questions": [ + "OECD -- Gibt es eine Dokumentation darüber, wie die KI funktioniert, welche Einschränkungen sie hat und wie sie Entscheidungen trifft?" + ] + }, + "FA-07": { + "title": "Robustheit und Sicherheit", + "questions": [ + "OECD -- Wurden Fehlerszenarien, Sicherheitslücken und Zuverlässigkeit bewertet?" + ] + }, + "FA-08": { + "title": "Rechenschaftspflicht", + "questions": [ + "OECD -- Wurden klare Verantwortlichkeiten und Aufsichtsmechanismen eingerichtet?" + ] + }, + "FA-09": { + "title": "KI-Verordnung Risikoklassifizierung", + "questions": [ + "Wurde die Risikoklassifizierung des KI-Systems festgelegt (Unzulässig / Hoch / Begrenzt / Minimal)? (KRITISCH)" + ] + }, + "FA-10": { + "title": "Grundrechte-Folgenabschätzung", + "questions": [ + "Wenn hochriskant: Wurde eine Grundrechte-Folgenabschätzung (FRIA) gemäß Article 27 durchgeführt?" + ] + }, + "FA-11": { + "title": "Daten-Governance", + "questions": [ + "Sind angemessene Daten-Governance-Maßnahmen vorhanden?" + ] + }, + "FA-12": { + "title": "Transparenzpflichten", + "questions": [ + "Wurden die Transparenzpflichten erfüllt (Nutzer darüber informiert, dass sie mit KI interagieren, wo zutreffend)?" + ] + }, + "FA-13": { + "title": "Anforderungen an menschliche Aufsicht", + "questions": [ + "Wurden Anforderungen an die menschliche Aufsicht festgelegt und dokumentiert?" + ] + }, + "FA-14": { + "title": "Technische Dokumentation", + "questions": [ + "Wird die technische Dokumentation wie erforderlich gepflegt?" + ] + }, + "FA-15": { + "title": "EU-Datenbankregistrierung", + "questions": [ + "Wurde die Registrierung in der EU-Datenbank abgeschlossen (falls zutreffend)?" + ] + }, + "FA-16": { + "title": "Bewertung des Europarats", + "questions": [ + "Wurde das KI-System hinsichtlich seiner Auswirkungen auf Menschenrechte, Demokratie und Rechtsstaatlichkeit bewertet?" + ] + }, + "FA-17": { + "title": "Konventionskonformität", + "questions": [ + "Entspricht das System dem Schwerpunkt der Konvention des Europarats auf Menschenrechte, demokratische Grundsätze und Rechtsstaatlichkeit?" + ] + } + } + } + } } } diff --git a/frontend/src/locales/de/pages.json b/frontend/src/locales/de/pages.json index a6bb6f2..f7d5213 100644 --- a/frontend/src/locales/de/pages.json +++ b/frontend/src/locales/de/pages.json @@ -103,6 +103,20 @@ }, "frameworks": { "title": "Frameworks", - "noContent": "Der Inhalt dieses Frameworks wurde noch nicht geladen. Der Fragebogen und die Berichtsabschnitte sind über die Seiten zur Risikoklassifizierung und Berichterstattung verfügbar." + "noContent": "Der Inhalt dieses Frameworks wurde noch nicht geladen. Der Fragebogen und die Berichtsabschnitte sind über die Seiten zur Risikoklassifizierung und Berichterstattung verfügbar.", + "deleteFramework": "Framework entfernen", + "deleteFrameworkConfirm": "Möchten Sie '{{name}}' wirklich entfernen? Alle zugehörigen Dokumente und Definitionen werden gelöscht. Sie können es später wieder hinzufügen.", + "addFrameworkTitle": "Framework hinzufügen", + "addFrameworkEmpty": "Alle verfügbaren Frameworks wurden bereits hinzugefügt.", + "names": { + "EU AI Act": "EU-KI-Verordnung", + "UNDP Human Rights Assessment": "UNDP-Menschenrechtsbewertung", + "Environmental Impact Framework": "Rahmenwerk für Umweltauswirkungen" + }, + "descriptions": { + "EU AI Act": "Die KI-Verordnung der Europäischen Union schafft einen umfassenden Regulierungsrahmen für KI-Systeme basierend auf der Risikoklassifizierung. Sie schreibt Konformitätsbewertungen, Transparenzpflichten und Anforderungen an die menschliche Aufsicht für Hochrisiko-KI-Systeme vor.", + "UNDP Human Rights Assessment": "Das UNDP-Toolkit zur Bewertung der Auswirkungen von KI auf die Menschenrechte bietet eine strukturierte Methodik zur Bewertung von KI-Systemen anhand internationaler Menschenrechtsstandards. Es leitet Organisationen durch die Einbindung von Interessengruppen, die rechtebasierte Risikoanalyse und die laufende Überwachung, um sicherzustellen, dass KI-Einsätze Würde, Gleichheit und Nichtdiskriminierungsgrundsätze respektieren.", + "Environmental Impact Framework": "Das Rahmenwerk für Umweltauswirkungen von KI-Systemen bietet einen strukturierten Ansatz zur Messung, Berichterstattung und Reduzierung des ökologischen Fußabdrucks der KI-Entwicklung und -Bereitstellung. Es umfasst Energieverbrauch, Kohlenstoffemissionen, Hardware-Lebenszyklus und Rechenzentrum-Nachhaltigkeit zur Förderung verantwortungsvoller und umweltbewusster KI-Praktiken." + } } } diff --git a/frontend/src/locales/en/data.json b/frontend/src/locales/en/data.json index 56a4be9..13e53c7 100644 --- a/frontend/src/locales/en/data.json +++ b/frontend/src/locales/en/data.json @@ -859,7 +859,9 @@ }, "MG03": { "title": "Determine quality dimensions to evaluate", - "questions": ["Have data quality dimensions to evaluate been defined?"] + "questions": [ + "Have data quality dimensions to evaluate been defined?" + ] }, "MG04": { "title": "Define quality controls for each dimension", @@ -890,7 +892,9 @@ }, "MG08": { "title": "Data transformation", - "questions": ["Have data been transformed to adapt them to AI system needs?"] + "questions": [ + "Have data been transformed to adapt them to AI system needs?" + ] }, "MG09": { "title": "Data aggregation", @@ -901,7 +905,9 @@ }, "MG10": { "title": "Data sampling", - "questions": ["Is adequate data sampling performed?"] + "questions": [ + "Is adequate data sampling performed?" + ] }, "MG11": { "title": "Feature creation and selection", @@ -912,7 +918,9 @@ }, "MG12": { "title": "Data enrichment", - "questions": ["Have data been enriched and expanded?"] + "questions": [ + "Have data been enriched and expanded?" + ] }, "MG13": { "title": "Data labelling", @@ -1348,7 +1356,9 @@ }, "MG06": { "title": "Risk management", - "questions": ["Does the system have an associated risk management plan?"] + "questions": [ + "Does the system have an associated risk management plan?" + ] }, "MG07": { "title": "Transparency", @@ -1453,11 +1463,15 @@ }, "MG13": { "title": "Article 9: Risk management system", - "questions": ["Does the system have an associated risk management plan?"] + "questions": [ + "Does the system have an associated risk management plan?" + ] }, "MG14": { "title": "Article 14: Human oversight", - "questions": ["Does the system comply with Human Oversight measures?"] + "questions": [ + "Does the system comply with Human Oversight measures?" + ] }, "MG15": { "title": "Article 15: Accuracy, robustness, and cybersecurity", @@ -1664,5 +1678,1251 @@ "name": "Environmental Monitoring Plan", "description": "Ongoing monitoring framework for tracking environmental KPIs, setting reduction targets, and reporting progress against sustainability goals." } + }, + "environmentalChecklist": { + "areas": { + "env-energy-carbon": { + "title": "Energy & Carbon", + "items": { + "EC-01": { + "title": "Training Energy Measurement", + "questions": [ + "Has the total energy consumption for model training been measured and documented (in kWh)?", + "Is the energy source mix (renewable vs. fossil) for training infrastructure known and recorded?" + ] + }, + "EC-02": { + "title": "Inference Energy Measurement", + "questions": [ + "Is ongoing energy consumption during inference monitored and reported?", + "Are energy-per-query or energy-per-request metrics tracked for production workloads?" + ] + }, + "EC-03": { + "title": "Carbon Footprint Estimation", + "questions": [ + "Has the carbon footprint of the AI system been estimated using a recognised methodology (e.g., GHG Protocol, ML CO₂ Impact)?", + "Are Scope 1, 2, and 3 emissions considered in the carbon assessment?" + ] + }, + "EC-04": { + "title": "Carbon Reduction Targets", + "questions": [ + "Are there documented targets for reducing the carbon footprint of the AI system over time?", + "Is progress against carbon reduction targets reviewed at defined intervals?" + ] + }, + "EC-05": { + "title": "Renewable Energy Usage", + "questions": [ + "What percentage of energy consumed by the AI system comes from renewable sources?", + "Are there commitments or plans to increase renewable energy usage for AI workloads?" + ] + }, + "EC-06": { + "title": "Carbon Offsetting", + "questions": [ + "If carbon offsetting is used, are the offsets verified and from credible programmes?" + ] + } + } + }, + "env-hardware": { + "title": "Hardware", + "items": { + "HW-01": { + "title": "Hardware Selection", + "questions": [ + "Has the environmental impact of hardware choices (GPU/TPU type, server specifications) been considered during procurement?", + "Are energy-efficient hardware options prioritised where performance requirements allow?" + ] + }, + "HW-02": { + "title": "Hardware Utilisation", + "questions": [ + "Are hardware utilisation rates monitored to minimise idle resource consumption?", + "Are workload scheduling strategies (e.g., batch processing, off-peak scheduling) used to improve efficiency?" + ] + }, + "HW-03": { + "title": "Hardware Lifespan", + "questions": [ + "Are hardware refresh cycles planned to balance performance needs with environmental impact?", + "Is hardware reuse, refurbishment, or donation considered before disposal?" + ] + }, + "HW-04": { + "title": "E-Waste Management", + "questions": [ + "Is end-of-life hardware disposed of through certified e-waste recycling programmes?", + "Are hazardous materials in hardware components tracked and managed according to regulations?" + ] + }, + "HW-05": { + "title": "Supply Chain Sustainability", + "questions": [ + "Are hardware suppliers assessed for their environmental practices and sustainability commitments?" + ] + } + } + }, + "env-data-management": { + "title": "Data Mgmt", + "items": { + "DM-01": { + "title": "Data Storage Efficiency", + "questions": [ + "Are data storage practices optimised to minimise energy consumption (e.g., tiered storage, compression, deduplication)?", + "Is there a data retention policy that ensures unnecessary data is deleted to reduce storage footprint?" + ] + }, + "DM-02": { + "title": "Data Transfer Efficiency", + "questions": [ + "Are data transfer volumes minimised through edge processing, caching, or data locality strategies?", + "Is the environmental cost of large-scale data transfers (e.g., cross-region, cross-cloud) considered?" + ] + }, + "DM-03": { + "title": "Data Centre Selection", + "questions": [ + "Are data centres selected based on environmental criteria such as PUE, water usage effectiveness, and renewable energy sourcing?", + "Is the geographical location of data centres chosen to optimise for cooler climates or renewable energy availability?" + ] + }, + "DM-04": { + "title": "Water Usage", + "questions": [ + "Is the water usage of cooling systems for AI workloads measured and documented?", + "Are water-efficient cooling technologies employed where feasible?" + ] + } + } + }, + "env-model-efficiency": { + "title": "Efficiency", + "items": { + "ME-01": { + "title": "Model Size Justification", + "questions": [ + "Is the model size (parameter count) justified relative to the task requirements?", + "Have smaller or more efficient model architectures been evaluated before selecting the final model?" + ] + }, + "ME-02": { + "title": "Training Efficiency", + "questions": [ + "Are efficient training techniques used (e.g., transfer learning, mixed-precision training, early stopping)?", + "Is the number of training runs and hyperparameter searches documented and justified?" + ] + }, + "ME-03": { + "title": "Inference Optimisation", + "questions": [ + "Are inference optimisation techniques applied (e.g., quantisation, pruning, distillation, caching)?", + "Is the trade-off between model accuracy and computational cost explicitly evaluated?" + ] + }, + "ME-04": { + "title": "Retraining Frequency", + "questions": [ + "Is the retraining schedule justified based on performance degradation metrics rather than fixed intervals?", + "Are incremental or fine-tuning approaches used instead of full retraining where possible?" + ] + }, + "ME-05": { + "title": "Benchmarking", + "questions": [ + "Are environmental efficiency metrics (e.g., accuracy-per-watt, throughput-per-kWh) tracked alongside performance metrics?" + ] + } + } + }, + "env-lifecycle": { + "title": "Lifecycle", + "items": { + "LC-01": { + "title": "Lifecycle Assessment", + "questions": [ + "Has a lifecycle assessment been conducted covering the environmental impact from development through deployment to decommissioning?", + "Are embodied emissions from hardware manufacturing included in the lifecycle assessment?" + ] + }, + "LC-02": { + "title": "Decommissioning Plan", + "questions": [ + "Is there a documented plan for environmentally responsible decommissioning of the AI system and its infrastructure?", + "Does the decommissioning plan address data deletion, hardware disposal, and service wind-down?" + ] + }, + "LC-03": { + "title": "Vendor and Cloud Sustainability", + "questions": [ + "Are cloud providers and third-party vendors assessed for their environmental commitments and reporting?", + "Do service-level agreements include environmental performance criteria?" + ] + }, + "LC-04": { + "title": "Circular Economy Practices", + "questions": [ + "Are circular economy principles (reuse, repair, recycle) applied to AI infrastructure and hardware?" + ] + } + } + }, + "env-monitoring": { + "title": "Monitoring", + "items": { + "EM-01": { + "title": "Environmental KPIs", + "questions": [ + "Are environmental key performance indicators (KPIs) defined for the AI system (e.g., energy per inference, total carbon, water usage)?", + "Are KPIs reviewed and updated at regular intervals?" + ] + }, + "EM-02": { + "title": "Reporting and Disclosure", + "questions": [ + "Is environmental impact data reported to internal stakeholders and, where applicable, to external bodies?", + "Does environmental reporting follow a recognised standard or framework (e.g., GRI, CDP, TCFD)?" + ] + }, + "EM-03": { + "title": "Continuous Improvement", + "questions": [ + "Is there a documented process for identifying and implementing environmental improvements based on monitoring data?", + "Are lessons learned from environmental incidents or performance shortfalls systematically captured?" + ] + }, + "EM-04": { + "title": "Regulatory Compliance", + "questions": [ + "Does the organisation track and comply with applicable environmental regulations related to AI and data centre operations?" + ] + }, + "EM-05": { + "title": "Sustainability Targets Integration", + "questions": [ + "Are AI-specific environmental targets aligned with the organisation's broader sustainability goals and commitments (e.g., net-zero pledges)?" + ] + } + } + } + } + }, + "undpChecklist": { + "areas": { + "undp-zero-question": { + "title": "Zero Q.", + "items": { + "ZQ-01": { + "title": "AI Necessity Assessment", + "questions": [ + "Has it been assessed whether an AI-based solution is actually necessary, or whether non-algorithmic alternatives could achieve the same goal? (CRITICAL)" + ] + }, + "ZQ-02": { + "title": "AI Rationale", + "questions": [ + "Has the rationale for choosing an AI-based approach over alternatives been documented?" + ] + }, + "ZQ-03": { + "title": "SWOT Analysis", + "questions": [ + "Has a SWOT analysis (Strengths, Weaknesses, Opportunities, Threats) of the AI approach vs. alternatives been conducted?" + ] + }, + "ZQ-04": { + "title": "Fundamental Rights Compatibility", + "questions": [ + "Has it been confirmed that the AI solution does not pursue an objective that is inherently incompatible with fundamental rights?" + ] + } + } + }, + "undp-org-readiness": { + "title": "Readiness", + "items": { + "OR-01": { + "title": "Human Rights Policy", + "questions": [ + "Does the organisation have a documented human rights policy covering AI design, development, and deployment?" + ] + }, + "OR-02": { + "title": "Leadership Support", + "questions": [ + "Does leadership actively support and resource human rights due diligence for AI initiatives?" + ] + }, + "OR-03": { + "title": "Reporting Channels", + "questions": [ + "Do dedicated channels exist for employees to report potential human rights issues related to AI systems?" + ] + }, + "OR-04": { + "title": "Policy Review", + "questions": [ + "Does the organisation regularly review and update policies to address emerging AI-related human rights issues?" + ] + }, + "OR-05": { + "title": "Cross-Departmental Collaboration", + "questions": [ + "Is cross-departmental collaboration on human rights in AI facilitated?" + ] + }, + "OR-06": { + "title": "Stakeholder Engagement", + "questions": [ + "Does the organisation engage stakeholders (including affected communities) for input and feedback during the AI lifecycle?" + ] + }, + "OR-07": { + "title": "Resource Allocation", + "questions": [ + "Does the organisation allocate sufficient resources for training, risk assessments, and stakeholder engagement?" + ] + }, + "OR-08": { + "title": "Public Transparency", + "questions": [ + "Does the organisation prioritise transparency and communication with the public about AI use?" + ] + }, + "OR-09": { + "title": "Management Understanding", + "questions": [ + "Does the management team have comprehensive understanding of human rights implications of AI?" + ] + }, + "OR-10": { + "title": "Employee Training", + "questions": [ + "Do employees receive regular training on human rights and ethical considerations in AI?" + ] + }, + "OR-11": { + "title": "Designated Staff", + "questions": [ + "Are designated staff or teams responsible for monitoring and addressing human rights issues in AI projects?" + ] + }, + "OR-12": { + "title": "External Expertise", + "questions": [ + "Does the organisation collaborate with external human rights and AI experts?" + ] + }, + "OR-13": { + "title": "Whistleblower Protection", + "questions": [ + "Are employees protected from retaliation when raising human rights concerns about AI?" + ] + }, + "OR-14": { + "title": "Feedback Incorporation", + "questions": [ + "Does a process exist for incorporating stakeholder feedback into AI practices?" + ] + }, + "OR-15": { + "title": "Legal Expertise", + "questions": [ + "Does the organisation have access to legal expertise on human rights and AI?" + ] + }, + "OR-16": { + "title": "Best Practices Resources", + "questions": [ + "Are resources provided for employees to stay updated on best practices?" + ] + }, + "OR-17": { + "title": "Industry Participation", + "questions": [ + "Does the organisation participate in industry groups or forums on human rights and AI?" + ] + }, + "OR-18": { + "title": "Skills Gap Assessment", + "questions": [ + "Does the organisation regularly assess and address AI-related human rights skill gaps?" + ] + }, + "OR-19": { + "title": "Impact Assessment Process", + "questions": [ + "Does a systematic human rights impact assessment process exist for all AI projects? (CRITICAL)" + ] + }, + "OR-20": { + "title": "Third-Party AI Evaluation", + "questions": [ + "Do procedures exist to evaluate human rights impacts of third-party AI systems integrated or utilised? (CRITICAL)" + ] + }, + "OR-21": { + "title": "Risk Identification", + "questions": [ + "Is a systematic risk identification process in place, including testing for reliability, accuracy, and resilience?" + ] + }, + "OR-22": { + "title": "Community Engagement", + "questions": [ + "Are stakeholders (including affected communities) engaged in the AI deployment process?" + ] + }, + "OR-23": { + "title": "Pre-Deployment Assessment", + "questions": [ + "Do all AI projects undergo human rights and data protection impact assessment before deployment? (CRITICAL)" + ] + }, + "OR-24": { + "title": "Data Security Protocols", + "questions": [ + "Are data security and privacy protocols established for all AI-related processes?" + ] + }, + "OR-25": { + "title": "Regulatory Updates", + "questions": [ + "Are processes regularly updated to incorporate new regulations and standards?" + ] + }, + "OR-26": { + "title": "Oversight Process", + "questions": [ + "Is an oversight process established to monitor AI system performance and compliance with human rights standards? (CRITICAL)" + ] + }, + "OR-27": { + "title": "Failure Mitigation", + "questions": [ + "Does the organisation have ability to mitigate and minimise negative effects from AI system failures?" + ] + }, + "OR-28": { + "title": "Redress Mechanism", + "questions": [ + "Is a redress mechanism in place for individuals adversely affected by AI systems? (CRITICAL)" + ] + } + } + }, + "undp-planning": { + "title": "Planning", + "items": { + "PS-01": { + "title": "System Purpose", + "questions": [ + "Has the main purpose of the AI system been documented? (CRITICAL)" + ] + }, + "PS-02": { + "title": "Technical Characteristics", + "questions": [ + "Have the main technical characteristics of the system been documented (type of AI model, architecture)?" + ] + }, + "PS-03": { + "title": "Deployment Jurisdictions", + "questions": [ + "Have all countries/jurisdictions where the system will be deployed been identified?" + ] + }, + "PS-04": { + "title": "Data Types", + "questions": [ + "Have all types of data processed (personal, non-personal, special categories) for training and operation been identified? (CRITICAL)" + ] + }, + "PS-05": { + "title": "Data Flow Mapping", + "questions": [ + "Have all data flows been mapped — from collection through processing to storage and deletion?" + ] + }, + "PS-06": { + "title": "Affected Individuals", + "questions": [ + "Have all individuals or groups potentially affected by the AI system been identified? (CRITICAL)" + ] + }, + "PS-07": { + "title": "Vulnerable Groups", + "questions": [ + "Has it been assessed whether affected groups include vulnerable individuals or groups (children, minorities, persons with disabilities, etc.)?" + ] + }, + "PS-08": { + "title": "Duty-Bearers", + "questions": [ + "Have all duty-bearers been identified — who is involved in design, provision, and deployment, and what is their role? (CRITICAL)" + ] + }, + "PS-09": { + "title": "Responsibility Chain", + "questions": [ + "Has the chain of responsibility from developer to deployer been documented?" + ] + }, + "PS-10": { + "title": "Existing Policies", + "questions": [ + "Have existing policies and procedures for assessing human rights impacts (including stakeholder engagement) been documented?" + ] + }, + "PS-11": { + "title": "Prior Impact Assessments", + "questions": [ + "Have any prior impact assessments been documented (e.g., Data Protection Impact Assessment, sector-specific assessments)?" + ] + }, + "PS-12": { + "title": "Affected Groups Identification", + "questions": [ + "Have all groups or communities potentially affected by the AI system (including during development) been identified? (CRITICAL)" + ] + }, + "PS-13": { + "title": "Relevant Stakeholders", + "questions": [ + "Have all relevant stakeholders to involve been identified (civil society, international organisations, experts, industry associations, journalists)?" + ] + }, + "PS-14": { + "title": "Additional Duty-Bearers", + "questions": [ + "Have additional duty-bearers beyond the AI provider and deployer been identified (national authorities, government agencies)?" + ] + }, + "PS-15": { + "title": "Supply Chain Assessment", + "questions": [ + "Has it been assessed whether business partners and suppliers (subcontractors of AI systems and datasets) have been involved in the assessment? (CRITICAL)" + ] + }, + "PS-16": { + "title": "Supplier Human Rights Impact", + "questions": [ + "Has the AI provider conducted a supply chain assessment for potential human rights impacts from suppliers/contractors? (CRITICAL)" + ] + }, + "PS-17": { + "title": "Supplier Standards", + "questions": [ + "Has the AI provider promoted human rights standards or audits among suppliers?" + ] + }, + "PS-18": { + "title": "Public Communication", + "questions": [ + "Do the AI provider and developers publicly communicate potential human rights impacts of the AI system?" + ] + }, + "PS-19": { + "title": "Staff Training", + "questions": [ + "Do the AI provider and developers provide training on human rights standards to management and procurement staff?" + ] + } + } + }, + "undp-rights-mapping": { + "title": "Rights Mapping", + "items": { + "HRM-01": { + "title": "Rights Identification", + "questions": [ + "Have all human rights potentially affected by the AI system been identified, using the comprehensive rights checklist? (CRITICAL)" + ] + }, + "HRM-02": { + "title": "Human Dignity", + "questions": [ + "Has the potential impact on human dignity been assessed?" + ] + }, + "HRM-03": { + "title": "Freedom from Discrimination", + "questions": [ + "Has the potential impact on freedom from discrimination been assessed?" + ] + }, + "HRM-04": { + "title": "Right to Life", + "questions": [ + "Has the potential impact on the right to life been assessed?" + ] + }, + "HRM-05": { + "title": "Freedom from Slavery", + "questions": [ + "Has the potential impact on freedom from slavery been assessed?" + ] + }, + "HRM-06": { + "title": "Freedom from Inhuman Treatment", + "questions": [ + "Has the potential impact on freedom from inhuman/degrading treatment been assessed?" + ] + }, + "HRM-07": { + "title": "Right to Privacy", + "questions": [ + "Has the potential impact on the right to privacy been assessed?" + ] + }, + "HRM-08": { + "title": "Right to Own Property", + "questions": [ + "Has the potential impact on the right to own property been assessed?" + ] + }, + "HRM-09": { + "title": "Freedom of Thought", + "questions": [ + "Has the potential impact on freedom of thought, conscience, and religion been assessed?" + ] + }, + "HRM-10": { + "title": "Freedom of Expression", + "questions": [ + "Has the potential impact on freedom of expression been assessed?" + ] + }, + "HRM-11": { + "title": "Freedom of Movement", + "questions": [ + "Has the potential impact on freedom of movement been assessed?" + ] + }, + "HRM-12": { + "title": "Freedom of Assembly", + "questions": [ + "Has the potential impact on freedom of assembly been assessed?" + ] + }, + "HRM-13": { + "title": "Freedom of Association", + "questions": [ + "Has the potential impact on the right to freedom of association been assessed?" + ] + }, + "HRM-14": { + "title": "Right to Marriage and Family", + "questions": [ + "Has the potential impact on the right to marriage and family been assessed?" + ] + }, + "HRM-15": { + "title": "Adequate Standard of Living", + "questions": [ + "Has the potential impact on the right to adequate standard of living (including health) been assessed?" + ] + }, + "HRM-16": { + "title": "Right to Education", + "questions": [ + "Has the potential impact on the right to education been assessed?" + ] + }, + "HRM-17": { + "title": "Right to Social Security", + "questions": [ + "Has the potential impact on the right to social security been assessed?" + ] + }, + "HRM-18": { + "title": "Cultural and Scientific Life", + "questions": [ + "Has the potential impact on the right to take part in cultural, artistic, scientific life been assessed?" + ] + }, + "HRM-19": { + "title": "Right to Work", + "questions": [ + "Has the potential impact on the right to work been assessed?" + ] + }, + "HRM-20": { + "title": "Right to Leisure", + "questions": [ + "Has the potential impact on the right to leisure and rest been assessed?" + ] + }, + "HRM-21": { + "title": "Minority Rights", + "questions": [ + "Has the potential impact on the rights of religious, ethnic, or linguistic minorities been assessed?" + ] + }, + "HRM-22": { + "title": "Rights of Children", + "questions": [ + "Has the potential impact on the rights of children been assessed?" + ] + }, + "HRM-23": { + "title": "Freedom from Torture", + "questions": [ + "Has the potential impact on freedom from torture been assessed?" + ] + }, + "HRM-24": { + "title": "Recognition Before the Law", + "questions": [ + "Has the potential impact on the right to recognition before the law been assessed?" + ] + }, + "HRM-25": { + "title": "Equality Before the Law", + "questions": [ + "Has the potential impact on the right to equality before the law been assessed?" + ] + }, + "HRM-26": { + "title": "Access to Justice", + "questions": [ + "Has the potential impact on access to justice been assessed?" + ] + }, + "HRM-27": { + "title": "Freedom from Arbitrary Detention", + "questions": [ + "Has the potential impact on freedom from arbitrary detention been assessed?" + ] + }, + "HRM-28": { + "title": "Right to a Fair Trial", + "questions": [ + "Has the potential impact on the right to a fair trial been assessed?" + ] + }, + "HRM-29": { + "title": "Presumption of Innocence", + "questions": [ + "Has the potential impact on the presumption of innocence been assessed?" + ] + }, + "HRM-30": { + "title": "Right to Legal Recourse", + "questions": [ + "Has the potential impact on the right to legal recourse been assessed?" + ] + }, + "HRM-31": { + "title": "Right to Asylum", + "questions": [ + "Has the potential impact on the right to asylum been assessed?" + ] + }, + "HRM-32": { + "title": "Right to Nationality", + "questions": [ + "Has the potential impact on the right to nationality been assessed?" + ] + }, + "HRM-33": { + "title": "Public Affairs Participation", + "questions": [ + "Has the potential impact on the right to take part in public affairs been assessed?" + ] + }, + "HRM-34": { + "title": "Legal Instruments", + "questions": [ + "Have all applicable international/regional legal instruments for human rights protection in deployment jurisdictions been identified?" + ] + }, + "HRM-35": { + "title": "Oversight Bodies", + "questions": [ + "Have relevant human rights courts or oversight bodies been identified?" + ] + }, + "HRM-36": { + "title": "Case Law", + "questions": [ + "Has the most relevant case law and legal provisions in the field of human rights been identified?" + ] + } + } + }, + "undp-data-diligence": { + "title": "Due Diligence", + "items": { + "DD-01": { + "title": "Data Origin", + "questions": [ + "Is the origin of primary training data documented (collected, purchased, scraped)? (CRITICAL)" + ] + }, + "DD-02": { + "title": "Data Consent", + "questions": [ + "Was consent obtained appropriately for data collection? (CRITICAL)" + ] + }, + "DD-03": { + "title": "Data Diversity", + "questions": [ + "Have steps been taken to ensure data represents the diversity of the affected population (gender, race, age, disability, location)?" + ] + }, + "DD-04": { + "title": "Data Bias", + "questions": [ + "Have known limitations or potential biases in the dataset been identified and documented?" + ] + }, + "DD-05": { + "title": "Sensitive Data Protection", + "questions": [ + "Is personal/sensitive data handled and protected appropriately throughout the lifecycle?" + ] + }, + "DD-06": { + "title": "Data Labelling", + "questions": [ + "Are data labelling processes documented, including potential sources of subjective bias?" + ] + }, + "DD-07": { + "title": "Training Objective", + "questions": [ + "Is the specific goal/objective of the AI training documented (clarifies intended function vs. potential misuse)?" + ] + }, + "DD-08": { + "title": "Fairness Criteria", + "questions": [ + "Were fairness criteria/metrics used during training and evaluation (documented which ones)?" + ] + }, + "DD-09": { + "title": "Model Limitations", + "questions": [ + "Are known limitations, failure modes, and performance boundaries of the trained model documented?" + ] + }, + "DD-10": { + "title": "Model Type", + "questions": [ + "Is the type of AI model documented with rationale for selection (predictive, generative, etc.)?" + ] + }, + "DD-11": { + "title": "Performance Measurement", + "questions": [ + "Is system performance measured and documented? (CRITICAL)" + ] + }, + "DD-12": { + "title": "Subgroup Performance", + "questions": [ + "Are performance results available broken down by relevant subgroups (age, gender, race, ethnicity, disability)? (CRITICAL)" + ] + }, + "DD-13": { + "title": "Model Documentation", + "questions": [ + "Is model documentation available (e.g., Model Card, Datasheet)?" + ] + }, + "DD-14": { + "title": "Explainability", + "questions": [ + "Are features available for explaining specific AI decisions/outputs (explainability)? (CRITICAL)" + ] + }, + "DD-15": { + "title": "Human Oversight", + "questions": [ + "Is human oversight planned or required in the deployment context? (CRITICAL)" + ] + }, + "DD-16": { + "title": "Post-Deployment Monitoring", + "questions": [ + "Does a process exist for post-deployment monitoring and updates? (CRITICAL)" + ] + }, + "DD-17": { + "title": "Feedback and Complaints", + "questions": [ + "Does a process exist for addressing feedback, complaints, or identified problems? (CRITICAL)" + ] + }, + "DD-18": { + "title": "Input Testing", + "questions": [ + "Has input testing been performed (edge cases — informal language, unusual names, extreme values)?" + ] + }, + "DD-19": { + "title": "Bias Probing", + "questions": [ + "Has bias probing been performed (identical prompts with different demographic personas)?" + ] + }, + "DD-20": { + "title": "Functionality Testing", + "questions": [ + "Has functionality testing been performed (does the system reliably do what it claims)?" + ] + }, + "DD-21": { + "title": "Accessibility Check", + "questions": [ + "Has an accessibility check been performed (screen reader compatibility, alternative input methods)?" + ] + }, + "DD-22": { + "title": "Output Review", + "questions": [ + "Has an output review been performed (checked for hallucinations, factual errors, biased/harmful content)?" + ] + } + } + }, + "undp-risk-analysis": { + "title": "Analysis", + "items": { + "RA-01": { + "title": "Probability Assessment", + "questions": [ + "Has the probability of adverse outcomes been assessed for each affected right (Low / Medium / High / Very High)?" + ] + }, + "RA-02": { + "title": "Exposure Assessment", + "questions": [ + "Has exposure been assessed — the proportion of identified rights-holders potentially affected (Low / Medium / High / Very High)?" + ] + }, + "RA-03": { + "title": "Overall Likelihood", + "questions": [ + "Has overall likelihood been calculated using the Probability x Exposure matrix?" + ] + }, + "RA-04": { + "title": "Gravity of Prejudice", + "questions": [ + "Has gravity of prejudice been assessed — considering intensity, consequences, importance of the violated right, group-specific impact, and vulnerability (Low / Medium / High / Very High)?" + ] + }, + "RA-05": { + "title": "Effort to Overcome", + "questions": [ + "Has the effort to overcome adverse effects been assessed — reversibility and difficulty of remedy (Low / Medium / High / Very High)?" + ] + }, + "RA-06": { + "title": "Overall Severity", + "questions": [ + "Has overall severity been calculated using the Gravity x Effort matrix?" + ] + }, + "RA-07": { + "title": "Risk Index", + "questions": [ + "Has the risk index been calculated for each affected right (Likelihood x Severity matrix)? (CRITICAL)" + ] + }, + "RA-08": { + "title": "Impact Visualisation", + "questions": [ + "Has a radial graph or equivalent visualisation been created showing impact across all affected rights?" + ] + }, + "RA-09": { + "title": "Independent Assessment", + "questions": [ + "Has each right been assessed independently — no cumulative index combining impacts across rights?" + ] + }, + "RA-10": { + "title": "Risk Exclusion Factors", + "questions": [ + "Have factors that may exclude risk been evaluated (legal limitations justifying certain impacts)?" + ] + }, + "RA-11": { + "title": "Balancing Test", + "questions": [ + "Has a balancing test been applied where conflicting rights exist (only after individual impact assessment)?" + ] + }, + "RA-12": { + "title": "Benefits Analysis", + "questions": [ + "Have potential benefits been analysed in terms of enhancing or safeguarding other protected rights?" + ] + } + } + }, + "undp-risk-management": { + "title": "Management", + "items": { + "RMG-01": { + "title": "Mitigation Measures", + "questions": [ + "Have specific measures been identified to prevent or mitigate each risk rated Medium, High, or Very High? (CRITICAL)" + ] + }, + "RMG-02": { + "title": "Contextualised Measures", + "questions": [ + "Are measures contextualised to the specific AI system, its characteristics, and deployment context?" + ] + }, + "RMG-03": { + "title": "Likelihood and Severity", + "questions": [ + "Do measures address both the likelihood and severity dimensions?" + ] + }, + "RMG-04": { + "title": "Implementation Timeline", + "questions": [ + "Has an implementation timeline been established for each measure?" + ] + }, + "RMG-05": { + "title": "Responsibility Assignment", + "questions": [ + "Has a responsible person/team been assigned for each measure?" + ] + }, + "RMG-06": { + "title": "Residual Risk Re-Assessment", + "questions": [ + "After implementing mitigation measures, has residual risk been re-assessed for each affected right? (CRITICAL)" + ] + }, + "RMG-07": { + "title": "Residual Likelihood", + "questions": [ + "Has residual likelihood been re-calculated?" + ] + }, + "RMG-08": { + "title": "Residual Severity", + "questions": [ + "Has residual severity been re-calculated?" + ] + }, + "RMG-09": { + "title": "Residual Impact", + "questions": [ + "Has residual overall impact been documented?" + ] + }, + "RMG-10": { + "title": "Acceptability Assessment", + "questions": [ + "Has the acceptability of residual risk been assessed?" + ] + }, + "RMG-11": { + "title": "Persistent High Risk", + "questions": [ + "If residual risk remains High or Very High, have additional measures or project redesign been considered?" + ] + }, + "RMG-12": { + "title": "Decision Records", + "questions": [ + "Is a complete record maintained of all risk assessment decisions, scoring rationales, and matrix choices? (CRITICAL)" + ] + }, + "RMG-13": { + "title": "Scaling Criteria", + "questions": [ + "Is there a record of all scaling criteria used and justification for ranges?" + ] + }, + "RMG-14": { + "title": "Stakeholder Input", + "questions": [ + "Is all stakeholder input documented?" + ] + }, + "RMG-15": { + "title": "Effectiveness Documentation", + "questions": [ + "Are mitigation measures and their expected effectiveness documented?" + ] + } + } + }, + "undp-monitoring": { + "title": "Monitoring", + "items": { + "MI-01": { + "title": "Monitoring Plan", + "questions": [ + "Has a monitoring plan been established for post-deployment performance of the AI system? (CRITICAL)" + ] + }, + "MI-02": { + "title": "Periodic Re-Assessment", + "questions": [ + "Has a schedule been set for periodic re-assessment (circular iterative approach)?" + ] + }, + "MI-03": { + "title": "Drift Detection", + "questions": [ + "Is a process in place to detect model drift and emerging biases over time?" + ] + }, + "MI-04": { + "title": "Feedback Channels", + "questions": [ + "Have feedback channels been established for affected individuals to report harm? (CRITICAL)" + ] + }, + "MI-05": { + "title": "Remedy Mechanism", + "questions": [ + "Is an effective remedy/redress mechanism operational for individuals adversely affected? (CRITICAL)" + ] + }, + "MI-06": { + "title": "Re-Assessment Triggers", + "questions": [ + "Have triggers been defined for when a full re-assessment is required (e.g., significant system update, change in deployment context, new regulatory requirements, reported incidents)?" + ] + }, + "MI-07": { + "title": "Regulatory Incorporation", + "questions": [ + "Is there a process for incorporating new regulations and standards as they emerge?" + ] + }, + "MI-08": { + "title": "Feedback Loop", + "questions": [ + "Do the results of monitoring feed back into the risk assessment and mitigation cycle?" + ] + } + } + }, + "undp-framework-alignment": { + "title": "Alignment", + "items": { + "FA-01": { + "title": "State Duty to Protect", + "questions": [ + "UNGPs Pillar I — Is there awareness of state obligations in jurisdictions of deployment?" + ] + }, + "FA-02": { + "title": "Corporate Responsibility", + "questions": [ + "UNGPs Pillar II — Has the organisation conducted human rights due diligence across the AI lifecycle?" + ] + }, + "FA-03": { + "title": "Access to Remedy", + "questions": [ + "UNGPs Pillar III — Are effective grievance mechanisms in place for affected individuals?" + ] + }, + "FA-04": { + "title": "Inclusive Growth", + "questions": [ + "OECD — Does the AI system benefit society broadly and not exacerbate inequalities?" + ] + }, + "FA-05": { + "title": "Human-Centred Values", + "questions": [ + "OECD — Has an assessment of potential discrimination and inequitable outcomes been completed?" + ] + }, + "FA-06": { + "title": "Transparency and Explainability", + "questions": [ + "OECD — Is there documentation of how the AI works, its limitations, and how it makes decisions?" + ] + }, + "FA-07": { + "title": "Robustness and Safety", + "questions": [ + "OECD — Have failure modes, security vulnerabilities, and reliability been assessed?" + ] + }, + "FA-08": { + "title": "Accountability", + "questions": [ + "OECD — Have clear responsibilities and oversight mechanisms been established?" + ] + }, + "FA-09": { + "title": "EU AI Act Risk Classification", + "questions": [ + "Has the AI system risk classification been determined (Unacceptable / High / Limited / Minimal risk)? (CRITICAL)" + ] + }, + "FA-10": { + "title": "Fundamental Rights Impact Assessment", + "questions": [ + "If high-risk: Has a Fundamental Rights Impact Assessment (FRIA) been conducted as required under Article 27?" + ] + }, + "FA-11": { + "title": "Data Governance", + "questions": [ + "Are appropriate data governance measures in place?" + ] + }, + "FA-12": { + "title": "Transparency Obligations", + "questions": [ + "Have transparency obligations been met (users informed they are interacting with AI where applicable)?" + ] + }, + "FA-13": { + "title": "Human Oversight Requirements", + "questions": [ + "Have human oversight requirements been established and documented?" + ] + }, + "FA-14": { + "title": "Technical Documentation", + "questions": [ + "Is technical documentation maintained as required?" + ] + }, + "FA-15": { + "title": "EU Database Registration", + "questions": [ + "Has registration in the EU database been completed (if applicable)?" + ] + }, + "FA-16": { + "title": "Council of Europe Assessment", + "questions": [ + "Has the AI system been assessed for impact on human rights, democracy, and rule of law?" + ] + }, + "FA-17": { + "title": "Convention Compliance", + "questions": [ + "Does the system comply with the Council of Europe Convention's emphasis on human rights, democratic principles, and rule of law?" + ] + } + } + } + } } } diff --git a/frontend/src/locales/en/pages.json b/frontend/src/locales/en/pages.json index b9187b1..7cf7ff8 100644 --- a/frontend/src/locales/en/pages.json +++ b/frontend/src/locales/en/pages.json @@ -103,6 +103,20 @@ }, "frameworks": { "title": "Frameworks", - "noContent": "The content for this framework has not been loaded yet. The questionnaire and reporting sections are available through the risk classification and reporting pages." + "noContent": "The content for this framework has not been loaded yet. The questionnaire and reporting sections are available through the risk classification and reporting pages.", + "deleteFramework": "Remove Framework", + "deleteFrameworkConfirm": "Are you sure you want to remove \"{{name}}\"? All associated documents and definitions will be deleted. You can re-add it later.", + "addFrameworkTitle": "Add Framework", + "addFrameworkEmpty": "All available frameworks have already been added.", + "names": { + "EU AI Act": "EU AI Act", + "UNDP Human Rights Assessment": "UNDP Human Rights Assessment", + "Environmental Impact Framework": "Environmental Impact Framework" + }, + "descriptions": { + "EU AI Act": "The European Union Artificial Intelligence Act establishes a comprehensive regulatory framework for AI systems based on risk classification. It mandates conformity assessments, transparency obligations, and human oversight requirements for high-risk AI systems.", + "UNDP Human Rights Assessment": "The UNDP AI Human Rights Impact Assessment Toolkit provides a structured methodology for evaluating AI systems against international human rights standards. It guides organisations through stakeholder engagement, rights-based risk analysis, and ongoing monitoring to ensure AI deployments respect dignity, equality, and non-discrimination principles.", + "Environmental Impact Framework": "The Environmental Impact Framework for AI Systems provides a structured approach to measuring, reporting, and reducing the environmental footprint of AI development and deployment. It covers energy consumption, carbon emissions, hardware lifecycle, and data centre sustainability to promote responsible and environmentally conscious AI practices." + } } } diff --git a/frontend/src/locales/es/data.json b/frontend/src/locales/es/data.json index d6a2ae9..2c08378 100644 --- a/frontend/src/locales/es/data.json +++ b/frontend/src/locales/es/data.json @@ -1666,5 +1666,1251 @@ "name": "Plan de monitoreo ambiental", "description": "Marco de monitoreo continuo para el seguimiento de KPIs ambientales, establecimiento de objetivos de reducción e informes de progreso respecto a los objetivos de sostenibilidad." } + }, + "environmentalChecklist": { + "areas": { + "env-energy-carbon": { + "title": "Energía", + "items": { + "EC-01": { + "title": "Medición del consumo energético del entrenamiento", + "questions": [ + "¿Se ha medido y documentado el consumo energético total del entrenamiento del modelo (en kWh)?", + "¿Se conoce y registra la combinación de fuentes de energía (renovable frente a fósil) de la infraestructura de entrenamiento?" + ] + }, + "EC-02": { + "title": "Medición del consumo energético de la inferencia", + "questions": [ + "¿Se monitoriza e informa del consumo energético continuo durante la inferencia?", + "¿Se registran las métricas de energía por consulta o energía por solicitud para las cargas de trabajo en producción?" + ] + }, + "EC-03": { + "title": "Estimación de la huella de carbono", + "questions": [ + "¿Se ha estimado la huella de carbono del sistema de IA utilizando una metodología reconocida (p. ej., GHG Protocol, ML CO₂ Impact)?", + "¿Se consideran las emisiones de Alcance 1, 2 y 3 en la evaluación de carbono?" + ] + }, + "EC-04": { + "title": "Objetivos de reducción de carbono", + "questions": [ + "¿Existen objetivos documentados para reducir la huella de carbono del sistema de IA a lo largo del tiempo?", + "¿Se revisa el progreso respecto a los objetivos de reducción de carbono a intervalos definidos?" + ] + }, + "EC-05": { + "title": "Uso de energía renovable", + "questions": [ + "¿Qué porcentaje de la energía consumida por el sistema de IA proviene de fuentes renovables?", + "¿Existen compromisos o planes para aumentar el uso de energía renovable en las cargas de trabajo de IA?" + ] + }, + "EC-06": { + "title": "Compensación de carbono", + "questions": [ + "Si se utiliza compensación de carbono, ¿las compensaciones son verificadas y provienen de programas acreditados?" + ] + } + } + }, + "env-hardware": { + "title": "Hardware", + "items": { + "HW-01": { + "title": "Selección de hardware", + "questions": [ + "¿Se ha considerado el impacto ambiental de las decisiones de hardware (tipo de GPU/TPU, especificaciones de servidores) durante la adquisición?", + "¿Se priorizan las opciones de hardware energéticamente eficientes cuando los requisitos de rendimiento lo permiten?" + ] + }, + "HW-02": { + "title": "Utilización de hardware", + "questions": [ + "¿Se monitorizan las tasas de utilización de hardware para minimizar el consumo de recursos ociosos?", + "¿Se utilizan estrategias de planificación de cargas de trabajo (p. ej., procesamiento por lotes, programación fuera de horas punta) para mejorar la eficiencia?" + ] + }, + "HW-03": { + "title": "Vida útil del hardware", + "questions": [ + "¿Se planifican los ciclos de renovación del hardware para equilibrar las necesidades de rendimiento con el impacto ambiental?", + "¿Se considera la reutilización, el reacondicionamiento o la donación del hardware antes de su eliminación?" + ] + }, + "HW-04": { + "title": "Gestión de residuos electrónicos", + "questions": [ + "¿Se elimina el hardware al final de su vida útil a través de programas certificados de reciclaje de residuos electrónicos?", + "¿Se rastrean y gestionan los materiales peligrosos de los componentes de hardware conforme a la normativa?" + ] + }, + "HW-05": { + "title": "Sostenibilidad de la cadena de suministro", + "questions": [ + "¿Se evalúan las prácticas ambientales y los compromisos de sostenibilidad de los proveedores de hardware?" + ] + } + } + }, + "env-data-management": { + "title": "Gestión datos", + "items": { + "DM-01": { + "title": "Eficiencia del almacenamiento de datos", + "questions": [ + "¿Se optimizan las prácticas de almacenamiento de datos para minimizar el consumo de energía (p. ej., almacenamiento escalonado, compresión, deduplicación)?", + "¿Existe una política de retención de datos que garantice la eliminación de datos innecesarios para reducir la huella de almacenamiento?" + ] + }, + "DM-02": { + "title": "Eficiencia en la transferencia de datos", + "questions": [ + "¿Se minimizan los volúmenes de transferencia de datos mediante procesamiento en el borde, almacenamiento en caché o estrategias de localidad de datos?", + "¿Se considera el coste ambiental de las transferencias de datos a gran escala (p. ej., entre regiones, entre nubes)?" + ] + }, + "DM-03": { + "title": "Selección del centro de datos", + "questions": [ + "¿Se seleccionan los centros de datos en función de criterios ambientales como PUE, eficiencia en el uso del agua y abastecimiento de energía renovable?", + "¿Se elige la ubicación geográfica de los centros de datos para optimizar los climas más fríos o la disponibilidad de energía renovable?" + ] + }, + "DM-04": { + "title": "Consumo de agua", + "questions": [ + "¿Se mide y documenta el consumo de agua de los sistemas de refrigeración para las cargas de trabajo de IA?", + "¿Se emplean tecnologías de refrigeración eficientes en el uso del agua cuando es viable?" + ] + } + } + }, + "env-model-efficiency": { + "title": "Eficiencia", + "items": { + "ME-01": { + "title": "Justificación del tamaño del modelo", + "questions": [ + "¿Se justifica el tamaño del modelo (número de parámetros) en relación con los requisitos de la tarea?", + "¿Se han evaluado arquitecturas de modelos más pequeñas o eficientes antes de seleccionar el modelo final?" + ] + }, + "ME-02": { + "title": "Eficiencia del entrenamiento", + "questions": [ + "¿Se utilizan técnicas de entrenamiento eficientes (p. ej., aprendizaje por transferencia, entrenamiento de precisión mixta, parada anticipada)?", + "¿Se documenta y justifica el número de ejecuciones de entrenamiento y búsquedas de hiperparámetros?" + ] + }, + "ME-03": { + "title": "Optimización de la inferencia", + "questions": [ + "¿Se aplican técnicas de optimización de la inferencia (p. ej., cuantización, poda, destilación, almacenamiento en caché)?", + "¿Se evalúa explícitamente la relación entre la precisión del modelo y el coste computacional?" + ] + }, + "ME-04": { + "title": "Frecuencia de reentrenamiento", + "questions": [ + "¿Se justifica el calendario de reentrenamiento en función de métricas de degradación del rendimiento en lugar de intervalos fijos?", + "¿Se utilizan enfoques incrementales o de ajuste fino en lugar del reentrenamiento completo cuando es posible?" + ] + }, + "ME-05": { + "title": "Evaluación comparativa", + "questions": [ + "¿Se registran métricas de eficiencia ambiental (p. ej., precisión por vatio, rendimiento por kWh) junto con las métricas de rendimiento?" + ] + } + } + }, + "env-lifecycle": { + "title": "Ciclo vida", + "items": { + "LC-01": { + "title": "Evaluación del ciclo de vida", + "questions": [ + "¿Se ha realizado una evaluación del ciclo de vida que cubra el impacto ambiental desde el desarrollo, pasando por el despliegue, hasta el desmantelamiento?", + "¿Se incluyen las emisiones incorporadas de la fabricación de hardware en la evaluación del ciclo de vida?" + ] + }, + "LC-02": { + "title": "Plan de desmantelamiento", + "questions": [ + "¿Existe un plan documentado para el desmantelamiento ambientalmente responsable del sistema de IA y su infraestructura?", + "¿El plan de desmantelamiento aborda la eliminación de datos, la disposición del hardware y la finalización del servicio?" + ] + }, + "LC-03": { + "title": "Sostenibilidad de proveedores y la nube", + "questions": [ + "¿Se evalúan los proveedores de nube y los terceros en cuanto a sus compromisos ambientales e informes?", + "¿Los acuerdos de nivel de servicio incluyen criterios de desempeño ambiental?" + ] + }, + "LC-04": { + "title": "Prácticas de economía circular", + "questions": [ + "¿Se aplican principios de economía circular (reutilización, reparación, reciclaje) a la infraestructura y el hardware de IA?" + ] + } + } + }, + "env-monitoring": { + "title": "Monitoreo", + "items": { + "EM-01": { + "title": "KPIs ambientales", + "questions": [ + "¿Se han definido indicadores clave de rendimiento (KPIs) ambientales para el sistema de IA (p. ej., energía por inferencia, carbono total, consumo de agua)?", + "¿Se revisan y actualizan los KPIs a intervalos regulares?" + ] + }, + "EM-02": { + "title": "Informes y divulgación", + "questions": [ + "¿Se informan los datos de impacto ambiental a las partes interesadas internas y, cuando corresponda, a organismos externos?", + "¿Los informes ambientales siguen un estándar o marco reconocido (p. ej., GRI, CDP, TCFD)?" + ] + }, + "EM-03": { + "title": "Mejora continua", + "questions": [ + "¿Existe un proceso documentado para identificar e implementar mejoras ambientales basadas en los datos de monitoreo?", + "¿Se recopilan sistemáticamente las lecciones aprendidas de incidentes ambientales o deficiencias de rendimiento?" + ] + }, + "EM-04": { + "title": "Cumplimiento normativo", + "questions": [ + "¿La organización realiza un seguimiento y cumple la normativa ambiental aplicable relacionada con las operaciones de IA y centros de datos?" + ] + }, + "EM-05": { + "title": "Integración de objetivos de sostenibilidad", + "questions": [ + "¿Los objetivos ambientales específicos de IA están alineados con los objetivos y compromisos de sostenibilidad más amplios de la organización (p. ej., compromisos de cero emisiones netas)?" + ] + } + } + } + } + }, + "undpChecklist": { + "areas": { + "undp-zero-question": { + "title": "Pregunta 0", + "items": { + "ZQ-01": { + "title": "Evaluación de la necesidad de IA", + "questions": [ + "¿Se ha evaluado si una solución basada en IA es realmente necesaria, o si alternativas no algorítmicas podrían lograr el mismo objetivo? (CRÍTICO)" + ] + }, + "ZQ-02": { + "title": "Justificación de la IA", + "questions": [ + "¿Se ha documentado la justificación para elegir un enfoque basado en IA frente a las alternativas?" + ] + }, + "ZQ-03": { + "title": "Análisis SWOT", + "questions": [ + "¿Se ha realizado un análisis SWOT (Fortalezas, Debilidades, Oportunidades, Amenazas) del enfoque de IA frente a las alternativas?" + ] + }, + "ZQ-04": { + "title": "Compatibilidad con derechos fundamentales", + "questions": [ + "¿Se ha confirmado que la solución de IA no persigue un objetivo intrínsecamente incompatible con los derechos fundamentales?" + ] + } + } + }, + "undp-org-readiness": { + "title": "Preparación", + "items": { + "OR-01": { + "title": "Política de derechos humanos", + "questions": [ + "¿Dispone la organización de una política documentada de derechos humanos que cubra el diseño, desarrollo y despliegue de IA?" + ] + }, + "OR-02": { + "title": "Apoyo de la dirección", + "questions": [ + "¿La dirección apoya activamente y asigna recursos para la debida diligencia en derechos humanos en las iniciativas de IA?" + ] + }, + "OR-03": { + "title": "Canales de denuncia", + "questions": [ + "¿Existen canales dedicados para que los empleados informen de posibles problemas de derechos humanos relacionados con los sistemas de IA?" + ] + }, + "OR-04": { + "title": "Revisión de políticas", + "questions": [ + "¿La organización revisa y actualiza periódicamente las políticas para abordar los problemas emergentes de derechos humanos relacionados con la IA?" + ] + }, + "OR-05": { + "title": "Colaboración interdepartamental", + "questions": [ + "¿Se facilita la colaboración interdepartamental en materia de derechos humanos en la IA?" + ] + }, + "OR-06": { + "title": "Participación de partes interesadas", + "questions": [ + "¿La organización involucra a las partes interesadas (incluidas las comunidades afectadas) para obtener aportes y comentarios durante el ciclo de vida de la IA?" + ] + }, + "OR-07": { + "title": "Asignación de recursos", + "questions": [ + "¿La organización asigna recursos suficientes para formación, evaluaciones de riesgo y participación de las partes interesadas?" + ] + }, + "OR-08": { + "title": "Transparencia pública", + "questions": [ + "¿La organización prioriza la transparencia y la comunicación con el público sobre el uso de la IA?" + ] + }, + "OR-09": { + "title": "Comprensión de la dirección", + "questions": [ + "¿El equipo directivo tiene una comprensión integral de las implicaciones de derechos humanos de la IA?" + ] + }, + "OR-10": { + "title": "Formación de empleados", + "questions": [ + "¿Los empleados reciben formación periódica sobre derechos humanos y consideraciones éticas en la IA?" + ] + }, + "OR-11": { + "title": "Personal designado", + "questions": [ + "¿Existen personas o equipos designados responsables de supervisar y abordar los problemas de derechos humanos en los proyectos de IA?" + ] + }, + "OR-12": { + "title": "Experiencia externa", + "questions": [ + "¿La organización colabora con expertos externos en derechos humanos e IA?" + ] + }, + "OR-13": { + "title": "Protección de denunciantes", + "questions": [ + "¿Los empleados están protegidos contra represalias cuando plantean preocupaciones de derechos humanos sobre la IA?" + ] + }, + "OR-14": { + "title": "Incorporación de comentarios", + "questions": [ + "¿Existe un proceso para incorporar los comentarios de las partes interesadas en las prácticas de IA?" + ] + }, + "OR-15": { + "title": "Experiencia jurídica", + "questions": [ + "¿La organización tiene acceso a experiencia jurídica en derechos humanos e IA?" + ] + }, + "OR-16": { + "title": "Recursos de mejores prácticas", + "questions": [ + "¿Se proporcionan recursos para que los empleados se mantengan actualizados sobre las mejores prácticas?" + ] + }, + "OR-17": { + "title": "Participación en el sector", + "questions": [ + "¿La organización participa en grupos o foros del sector sobre derechos humanos e IA?" + ] + }, + "OR-18": { + "title": "Evaluación de brechas de competencias", + "questions": [ + "¿La organización evalúa y aborda periódicamente las brechas de competencias en derechos humanos relacionadas con la IA?" + ] + }, + "OR-19": { + "title": "Proceso de evaluación de impacto", + "questions": [ + "¿Existe un proceso sistemático de evaluación del impacto en los derechos humanos para todos los proyectos de IA? (CRÍTICO)" + ] + }, + "OR-20": { + "title": "Evaluación de IA de terceros", + "questions": [ + "¿Existen procedimientos para evaluar los impactos en derechos humanos de los sistemas de IA de terceros integrados o utilizados? (CRÍTICO)" + ] + }, + "OR-21": { + "title": "Identificación de riesgos", + "questions": [ + "¿Existe un proceso sistemático de identificación de riesgos, incluyendo pruebas de fiabilidad, precisión y resiliencia?" + ] + }, + "OR-22": { + "title": "Participación de la comunidad", + "questions": [ + "¿Se involucra a las partes interesadas (incluidas las comunidades afectadas) en el proceso de despliegue de la IA?" + ] + }, + "OR-23": { + "title": "Evaluación previa al despliegue", + "questions": [ + "¿Todos los proyectos de IA se someten a una evaluación de impacto en derechos humanos y protección de datos antes del despliegue? (CRÍTICO)" + ] + }, + "OR-24": { + "title": "Protocolos de seguridad de datos", + "questions": [ + "¿Se han establecido protocolos de seguridad y privacidad de datos para todos los procesos relacionados con la IA?" + ] + }, + "OR-25": { + "title": "Actualizaciones normativas", + "questions": [ + "¿Se actualizan periódicamente los procesos para incorporar nuevas regulaciones y estándares?" + ] + }, + "OR-26": { + "title": "Proceso de supervisión", + "questions": [ + "¿Se ha establecido un proceso de supervisión para monitorizar el rendimiento del sistema de IA y el cumplimiento de los estándares de derechos humanos? (CRÍTICO)" + ] + }, + "OR-27": { + "title": "Mitigación de fallos", + "questions": [ + "¿La organización tiene la capacidad de mitigar y minimizar los efectos negativos de los fallos del sistema de IA?" + ] + }, + "OR-28": { + "title": "Mecanismo de reparación", + "questions": [ + "¿Existe un mecanismo de reparación para las personas afectadas negativamente por los sistemas de IA? (CRÍTICO)" + ] + } + } + }, + "undp-planning": { + "title": "Planificación", + "items": { + "PS-01": { + "title": "Finalidad del sistema", + "questions": [ + "¿Se ha documentado la finalidad principal del sistema de IA? (CRÍTICO)" + ] + }, + "PS-02": { + "title": "Características técnicas", + "questions": [ + "¿Se han documentado las principales características técnicas del sistema (tipo de modelo de IA, arquitectura)?" + ] + }, + "PS-03": { + "title": "Jurisdicciones de despliegue", + "questions": [ + "¿Se han identificado todos los países/jurisdicciones donde se desplegará el sistema?" + ] + }, + "PS-04": { + "title": "Tipos de datos", + "questions": [ + "¿Se han identificado todos los tipos de datos procesados (personales, no personales, categorías especiales) para el entrenamiento y la operación? (CRÍTICO)" + ] + }, + "PS-05": { + "title": "Mapeo de flujos de datos", + "questions": [ + "¿Se han mapeado todos los flujos de datos, desde la recopilación, pasando por el procesamiento, hasta el almacenamiento y la eliminación?" + ] + }, + "PS-06": { + "title": "Personas afectadas", + "questions": [ + "¿Se han identificado todas las personas o grupos potencialmente afectados por el sistema de IA? (CRÍTICO)" + ] + }, + "PS-07": { + "title": "Grupos vulnerables", + "questions": [ + "¿Se ha evaluado si los grupos afectados incluyen personas o grupos vulnerables (menores, minorías, personas con discapacidad, etc.)?" + ] + }, + "PS-08": { + "title": "Titulares de obligaciones", + "questions": [ + "¿Se han identificado todos los titulares de obligaciones — quién participa en el diseño, la provisión y el despliegue, y cuál es su función? (CRÍTICO)" + ] + }, + "PS-09": { + "title": "Cadena de responsabilidad", + "questions": [ + "¿Se ha documentado la cadena de responsabilidad desde el desarrollador hasta el responsable del despliegue?" + ] + }, + "PS-10": { + "title": "Políticas existentes", + "questions": [ + "¿Se han documentado las políticas y procedimientos existentes para evaluar los impactos en derechos humanos (incluida la participación de las partes interesadas)?" + ] + }, + "PS-11": { + "title": "Evaluaciones de impacto previas", + "questions": [ + "¿Se han documentado evaluaciones de impacto previas (p. ej., Evaluación de Impacto en la Protección de Datos, evaluaciones sectoriales específicas)?" + ] + }, + "PS-12": { + "title": "Identificación de grupos afectados", + "questions": [ + "¿Se han identificado todos los grupos o comunidades potencialmente afectados por el sistema de IA (incluso durante el desarrollo)? (CRÍTICO)" + ] + }, + "PS-13": { + "title": "Partes interesadas relevantes", + "questions": [ + "¿Se han identificado todas las partes interesadas relevantes a involucrar (sociedad civil, organizaciones internacionales, expertos, asociaciones del sector, periodistas)?" + ] + }, + "PS-14": { + "title": "Titulares de obligaciones adicionales", + "questions": [ + "¿Se han identificado titulares de obligaciones adicionales más allá del proveedor y el responsable del despliegue de IA (autoridades nacionales, organismos gubernamentales)?" + ] + }, + "PS-15": { + "title": "Evaluación de la cadena de suministro", + "questions": [ + "¿Se ha evaluado si los socios comerciales y proveedores (subcontratistas de sistemas de IA y conjuntos de datos) han participado en la evaluación? (CRÍTICO)" + ] + }, + "PS-16": { + "title": "Impacto de proveedores en derechos humanos", + "questions": [ + "¿El proveedor de IA ha realizado una evaluación de la cadena de suministro para detectar posibles impactos en derechos humanos de los proveedores/contratistas? (CRÍTICO)" + ] + }, + "PS-17": { + "title": "Estándares de proveedores", + "questions": [ + "¿El proveedor de IA ha promovido estándares de derechos humanos o auditorías entre los proveedores?" + ] + }, + "PS-18": { + "title": "Comunicación pública", + "questions": [ + "¿El proveedor y los desarrolladores de IA comunican públicamente los posibles impactos en derechos humanos del sistema de IA?" + ] + }, + "PS-19": { + "title": "Formación del personal", + "questions": [ + "¿El proveedor y los desarrolladores de IA proporcionan formación sobre estándares de derechos humanos al personal de dirección y adquisiciones?" + ] + } + } + }, + "undp-rights-mapping": { + "title": "Mapeo DDHH", + "items": { + "HRM-01": { + "title": "Identificación de derechos", + "questions": [ + "¿Se han identificado todos los derechos humanos potencialmente afectados por el sistema de IA, utilizando la lista de verificación integral de derechos? (CRÍTICO)" + ] + }, + "HRM-02": { + "title": "Dignidad humana", + "questions": [ + "¿Se ha evaluado el impacto potencial en la dignidad humana?" + ] + }, + "HRM-03": { + "title": "Libertad frente a la discriminación", + "questions": [ + "¿Se ha evaluado el impacto potencial en la libertad frente a la discriminación?" + ] + }, + "HRM-04": { + "title": "Derecho a la vida", + "questions": [ + "¿Se ha evaluado el impacto potencial en el derecho a la vida?" + ] + }, + "HRM-05": { + "title": "Libertad frente a la esclavitud", + "questions": [ + "¿Se ha evaluado el impacto potencial en la libertad frente a la esclavitud?" + ] + }, + "HRM-06": { + "title": "Libertad frente a tratos inhumanos", + "questions": [ + "¿Se ha evaluado el impacto potencial en la libertad frente a tratos inhumanos o degradantes?" + ] + }, + "HRM-07": { + "title": "Derecho a la intimidad", + "questions": [ + "¿Se ha evaluado el impacto potencial en el derecho a la intimidad?" + ] + }, + "HRM-08": { + "title": "Derecho a la propiedad", + "questions": [ + "¿Se ha evaluado el impacto potencial en el derecho a la propiedad?" + ] + }, + "HRM-09": { + "title": "Libertad de pensamiento", + "questions": [ + "¿Se ha evaluado el impacto potencial en la libertad de pensamiento, conciencia y religión?" + ] + }, + "HRM-10": { + "title": "Libertad de expresión", + "questions": [ + "¿Se ha evaluado el impacto potencial en la libertad de expresión?" + ] + }, + "HRM-11": { + "title": "Libertad de circulación", + "questions": [ + "¿Se ha evaluado el impacto potencial en la libertad de circulación?" + ] + }, + "HRM-12": { + "title": "Libertad de reunión", + "questions": [ + "¿Se ha evaluado el impacto potencial en la libertad de reunión?" + ] + }, + "HRM-13": { + "title": "Libertad de asociación", + "questions": [ + "¿Se ha evaluado el impacto potencial en el derecho a la libertad de asociación?" + ] + }, + "HRM-14": { + "title": "Derecho al matrimonio y a la familia", + "questions": [ + "¿Se ha evaluado el impacto potencial en el derecho al matrimonio y a la familia?" + ] + }, + "HRM-15": { + "title": "Nivel de vida adecuado", + "questions": [ + "¿Se ha evaluado el impacto potencial en el derecho a un nivel de vida adecuado (incluida la salud)?" + ] + }, + "HRM-16": { + "title": "Derecho a la educación", + "questions": [ + "¿Se ha evaluado el impacto potencial en el derecho a la educación?" + ] + }, + "HRM-17": { + "title": "Derecho a la seguridad social", + "questions": [ + "¿Se ha evaluado el impacto potencial en el derecho a la seguridad social?" + ] + }, + "HRM-18": { + "title": "Vida cultural y científica", + "questions": [ + "¿Se ha evaluado el impacto potencial en el derecho a participar en la vida cultural, artística y científica?" + ] + }, + "HRM-19": { + "title": "Derecho al trabajo", + "questions": [ + "¿Se ha evaluado el impacto potencial en el derecho al trabajo?" + ] + }, + "HRM-20": { + "title": "Derecho al ocio", + "questions": [ + "¿Se ha evaluado el impacto potencial en el derecho al ocio y al descanso?" + ] + }, + "HRM-21": { + "title": "Derechos de las minorías", + "questions": [ + "¿Se ha evaluado el impacto potencial en los derechos de las minorías religiosas, étnicas o lingüísticas?" + ] + }, + "HRM-22": { + "title": "Derechos de la infancia", + "questions": [ + "¿Se ha evaluado el impacto potencial en los derechos de la infancia?" + ] + }, + "HRM-23": { + "title": "Libertad frente a la tortura", + "questions": [ + "¿Se ha evaluado el impacto potencial en la libertad frente a la tortura?" + ] + }, + "HRM-24": { + "title": "Reconocimiento ante la ley", + "questions": [ + "¿Se ha evaluado el impacto potencial en el derecho al reconocimiento de la personalidad jurídica?" + ] + }, + "HRM-25": { + "title": "Igualdad ante la ley", + "questions": [ + "¿Se ha evaluado el impacto potencial en el derecho a la igualdad ante la ley?" + ] + }, + "HRM-26": { + "title": "Acceso a la justicia", + "questions": [ + "¿Se ha evaluado el impacto potencial en el acceso a la justicia?" + ] + }, + "HRM-27": { + "title": "Libertad frente a la detención arbitraria", + "questions": [ + "¿Se ha evaluado el impacto potencial en la libertad frente a la detención arbitraria?" + ] + }, + "HRM-28": { + "title": "Derecho a un juicio justo", + "questions": [ + "¿Se ha evaluado el impacto potencial en el derecho a un juicio justo?" + ] + }, + "HRM-29": { + "title": "Presunción de inocencia", + "questions": [ + "¿Se ha evaluado el impacto potencial en la presunción de inocencia?" + ] + }, + "HRM-30": { + "title": "Derecho a recurso legal", + "questions": [ + "¿Se ha evaluado el impacto potencial en el derecho a recurso legal?" + ] + }, + "HRM-31": { + "title": "Derecho al asilo", + "questions": [ + "¿Se ha evaluado el impacto potencial en el derecho al asilo?" + ] + }, + "HRM-32": { + "title": "Derecho a la nacionalidad", + "questions": [ + "¿Se ha evaluado el impacto potencial en el derecho a la nacionalidad?" + ] + }, + "HRM-33": { + "title": "Participación en asuntos públicos", + "questions": [ + "¿Se ha evaluado el impacto potencial en el derecho a participar en los asuntos públicos?" + ] + }, + "HRM-34": { + "title": "Instrumentos jurídicos", + "questions": [ + "¿Se han identificado todos los instrumentos jurídicos internacionales/regionales aplicables para la protección de los derechos humanos en las jurisdicciones de despliegue?" + ] + }, + "HRM-35": { + "title": "Órganos de supervisión", + "questions": [ + "¿Se han identificado los tribunales de derechos humanos u órganos de supervisión pertinentes?" + ] + }, + "HRM-36": { + "title": "Jurisprudencia", + "questions": [ + "¿Se ha identificado la jurisprudencia y las disposiciones legales más relevantes en el ámbito de los derechos humanos?" + ] + } + } + }, + "undp-data-diligence": { + "title": "Diligencia", + "items": { + "DD-01": { + "title": "Origen de los datos", + "questions": [ + "¿Se documenta el origen de los datos de entrenamiento primarios (recopilados, adquiridos, extraídos)? (CRÍTICO)" + ] + }, + "DD-02": { + "title": "Consentimiento de datos", + "questions": [ + "¿Se obtuvo el consentimiento de forma adecuada para la recopilación de datos? (CRÍTICO)" + ] + }, + "DD-03": { + "title": "Diversidad de datos", + "questions": [ + "¿Se han tomado medidas para garantizar que los datos representen la diversidad de la población afectada (género, raza, edad, discapacidad, ubicación)?" + ] + }, + "DD-04": { + "title": "Sesgo de datos", + "questions": [ + "¿Se han identificado y documentado las limitaciones conocidas o los posibles sesgos del conjunto de datos?" + ] + }, + "DD-05": { + "title": "Protección de datos sensibles", + "questions": [ + "¿Se manejan y protegen adecuadamente los datos personales/sensibles a lo largo de todo el ciclo de vida?" + ] + }, + "DD-06": { + "title": "Etiquetado de datos", + "questions": [ + "¿Se documentan los procesos de etiquetado de datos, incluidas las posibles fuentes de sesgo subjetivo?" + ] + }, + "DD-07": { + "title": "Objetivo del entrenamiento", + "questions": [ + "¿Se documenta el objetivo/meta específico del entrenamiento de IA (aclara la función prevista frente al posible uso indebido)?" + ] + }, + "DD-08": { + "title": "Criterios de equidad", + "questions": [ + "¿Se utilizaron criterios/métricas de equidad durante el entrenamiento y la evaluación (documentando cuáles)?" + ] + }, + "DD-09": { + "title": "Limitaciones del modelo", + "questions": [ + "¿Se documentan las limitaciones conocidas, los modos de fallo y los límites de rendimiento del modelo entrenado?" + ] + }, + "DD-10": { + "title": "Tipo de modelo", + "questions": [ + "¿Se documenta el tipo de modelo de IA con la justificación de su selección (predictivo, generativo, etc.)?" + ] + }, + "DD-11": { + "title": "Medición del rendimiento", + "questions": [ + "¿Se mide y documenta el rendimiento del sistema? (CRÍTICO)" + ] + }, + "DD-12": { + "title": "Rendimiento por subgrupos", + "questions": [ + "¿Están disponibles los resultados de rendimiento desglosados por subgrupos relevantes (edad, género, raza, etnia, discapacidad)? (CRÍTICO)" + ] + }, + "DD-13": { + "title": "Documentación del modelo", + "questions": [ + "¿Está disponible la documentación del modelo (p. ej., Model Card, Datasheet)?" + ] + }, + "DD-14": { + "title": "Explicabilidad", + "questions": [ + "¿Existen funciones para explicar decisiones/salidas específicas de la IA (explicabilidad)? (CRÍTICO)" + ] + }, + "DD-15": { + "title": "Supervisión humana", + "questions": [ + "¿Se prevé o requiere la supervisión humana en el contexto de despliegue? (CRÍTICO)" + ] + }, + "DD-16": { + "title": "Monitoreo posterior al despliegue", + "questions": [ + "¿Existe un proceso para el monitoreo y las actualizaciones posteriores al despliegue? (CRÍTICO)" + ] + }, + "DD-17": { + "title": "Comentarios y reclamaciones", + "questions": [ + "¿Existe un proceso para atender comentarios, reclamaciones o problemas identificados? (CRÍTICO)" + ] + }, + "DD-18": { + "title": "Pruebas de entrada", + "questions": [ + "¿Se han realizado pruebas de entrada (casos extremos: lenguaje informal, nombres inusuales, valores extremos)?" + ] + }, + "DD-19": { + "title": "Exploración de sesgos", + "questions": [ + "¿Se ha realizado una exploración de sesgos (prompts idénticos con diferentes perfiles demográficos)?" + ] + }, + "DD-20": { + "title": "Pruebas de funcionalidad", + "questions": [ + "¿Se han realizado pruebas de funcionalidad (¿el sistema hace de forma fiable lo que afirma)?" + ] + }, + "DD-21": { + "title": "Verificación de accesibilidad", + "questions": [ + "¿Se ha realizado una verificación de accesibilidad (compatibilidad con lectores de pantalla, métodos de entrada alternativos)?" + ] + }, + "DD-22": { + "title": "Revisión de salidas", + "questions": [ + "¿Se ha realizado una revisión de salidas (verificando alucinaciones, errores factuales, contenido sesgado/dañino)?" + ] + } + } + }, + "undp-risk-analysis": { + "title": "Análisis", + "items": { + "RA-01": { + "title": "Evaluación de probabilidad", + "questions": [ + "¿Se ha evaluado la probabilidad de resultados adversos para cada derecho afectado (Baja / Media / Alta / Muy Alta)?" + ] + }, + "RA-02": { + "title": "Evaluación de exposición", + "questions": [ + "¿Se ha evaluado la exposición — la proporción de titulares de derechos identificados potencialmente afectados (Baja / Media / Alta / Muy Alta)?" + ] + }, + "RA-03": { + "title": "Probabilidad general", + "questions": [ + "¿Se ha calculado la probabilidad general utilizando la matriz de Probabilidad x Exposición?" + ] + }, + "RA-04": { + "title": "Gravedad del perjuicio", + "questions": [ + "¿Se ha evaluado la gravedad del perjuicio — considerando intensidad, consecuencias, importancia del derecho vulnerado, impacto específico en el grupo y vulnerabilidad (Baja / Media / Alta / Muy Alta)?" + ] + }, + "RA-05": { + "title": "Esfuerzo para superar los efectos", + "questions": [ + "¿Se ha evaluado el esfuerzo para superar los efectos adversos — reversibilidad y dificultad de reparación (Bajo / Medio / Alto / Muy Alto)?" + ] + }, + "RA-06": { + "title": "Severidad general", + "questions": [ + "¿Se ha calculado la severidad general utilizando la matriz de Gravedad x Esfuerzo?" + ] + }, + "RA-07": { + "title": "Índice de riesgo", + "questions": [ + "¿Se ha calculado el índice de riesgo para cada derecho afectado (matriz de Probabilidad x Severidad)? (CRÍTICO)" + ] + }, + "RA-08": { + "title": "Visualización del impacto", + "questions": [ + "¿Se ha creado un gráfico radial o una visualización equivalente que muestre el impacto en todos los derechos afectados?" + ] + }, + "RA-09": { + "title": "Evaluación independiente", + "questions": [ + "¿Se ha evaluado cada derecho de forma independiente — sin índice acumulativo que combine los impactos entre derechos?" + ] + }, + "RA-10": { + "title": "Factores de exclusión de riesgos", + "questions": [ + "¿Se han evaluado los factores que puedan excluir el riesgo (limitaciones legales que justifiquen determinados impactos)?" + ] + }, + "RA-11": { + "title": "Prueba de ponderación", + "questions": [ + "¿Se ha aplicado una prueba de ponderación cuando existen derechos en conflicto (solo después de la evaluación individual del impacto)?" + ] + }, + "RA-12": { + "title": "Análisis de beneficios", + "questions": [ + "¿Se han analizado los beneficios potenciales en términos de mejora o protección de otros derechos protegidos?" + ] + } + } + }, + "undp-risk-management": { + "title": "Gestión", + "items": { + "RMG-01": { + "title": "Medidas de mitigación", + "questions": [ + "¿Se han identificado medidas específicas para prevenir o mitigar cada riesgo calificado como Medio, Alto o Muy Alto? (CRÍTICO)" + ] + }, + "RMG-02": { + "title": "Medidas contextualizadas", + "questions": [ + "¿Las medidas están contextualizadas al sistema de IA específico, sus características y el contexto de despliegue?" + ] + }, + "RMG-03": { + "title": "Probabilidad y severidad", + "questions": [ + "¿Las medidas abordan tanto la dimensión de probabilidad como la de severidad?" + ] + }, + "RMG-04": { + "title": "Cronograma de implementación", + "questions": [ + "¿Se ha establecido un cronograma de implementación para cada medida?" + ] + }, + "RMG-05": { + "title": "Asignación de responsabilidades", + "questions": [ + "¿Se ha asignado una persona/equipo responsable de cada medida?" + ] + }, + "RMG-06": { + "title": "Reevaluación del riesgo residual", + "questions": [ + "Tras implementar las medidas de mitigación, ¿se ha reevaluado el riesgo residual para cada derecho afectado? (CRÍTICO)" + ] + }, + "RMG-07": { + "title": "Probabilidad residual", + "questions": [ + "¿Se ha recalculado la probabilidad residual?" + ] + }, + "RMG-08": { + "title": "Severidad residual", + "questions": [ + "¿Se ha recalculado la severidad residual?" + ] + }, + "RMG-09": { + "title": "Impacto residual", + "questions": [ + "¿Se ha documentado el impacto global residual?" + ] + }, + "RMG-10": { + "title": "Evaluación de aceptabilidad", + "questions": [ + "¿Se ha evaluado la aceptabilidad del riesgo residual?" + ] + }, + "RMG-11": { + "title": "Riesgo alto persistente", + "questions": [ + "Si el riesgo residual sigue siendo Alto o Muy Alto, ¿se han considerado medidas adicionales o un rediseño del proyecto?" + ] + }, + "RMG-12": { + "title": "Registros de decisiones", + "questions": [ + "¿Se mantiene un registro completo de todas las decisiones de evaluación de riesgos, las justificaciones de puntuación y las opciones de la matriz? (CRÍTICO)" + ] + }, + "RMG-13": { + "title": "Criterios de escala", + "questions": [ + "¿Existe un registro de todos los criterios de escala utilizados y la justificación de los rangos?" + ] + }, + "RMG-14": { + "title": "Aportaciones de las partes interesadas", + "questions": [ + "¿Se documentan todas las aportaciones de las partes interesadas?" + ] + }, + "RMG-15": { + "title": "Documentación de eficacia", + "questions": [ + "¿Se documentan las medidas de mitigación y su eficacia esperada?" + ] + } + } + }, + "undp-monitoring": { + "title": "Monitoreo", + "items": { + "MI-01": { + "title": "Plan de monitoreo", + "questions": [ + "¿Se ha establecido un plan de monitoreo para el rendimiento posterior al despliegue del sistema de IA? (CRÍTICO)" + ] + }, + "MI-02": { + "title": "Reevaluación periódica", + "questions": [ + "¿Se ha establecido un calendario para la reevaluación periódica (enfoque iterativo circular)?" + ] + }, + "MI-03": { + "title": "Detección de deriva", + "questions": [ + "¿Existe un proceso para detectar la deriva del modelo y los sesgos emergentes a lo largo del tiempo?" + ] + }, + "MI-04": { + "title": "Canales de retroalimentación", + "questions": [ + "¿Se han establecido canales de retroalimentación para que las personas afectadas informen de daños? (CRÍTICO)" + ] + }, + "MI-05": { + "title": "Mecanismo de reparación", + "questions": [ + "¿Existe un mecanismo de reparación/resarcimiento efectivo y operativo para las personas afectadas negativamente? (CRÍTICO)" + ] + }, + "MI-06": { + "title": "Desencadenantes de reevaluación", + "questions": [ + "¿Se han definido desencadenantes para cuando se requiere una reevaluación completa (p. ej., actualización significativa del sistema, cambio en el contexto de despliegue, nuevos requisitos normativos, incidentes reportados)?" + ] + }, + "MI-07": { + "title": "Incorporación normativa", + "questions": [ + "¿Existe un proceso para incorporar nuevas regulaciones y estándares a medida que surjan?" + ] + }, + "MI-08": { + "title": "Bucle de retroalimentación", + "questions": [ + "¿Los resultados del monitoreo retroalimentan el ciclo de evaluación y mitigación de riesgos?" + ] + } + } + }, + "undp-framework-alignment": { + "title": "Alineación", + "items": { + "FA-01": { + "title": "Deber de protección del Estado", + "questions": [ + "UNGPs Pilar I — ¿Se conocen las obligaciones del Estado en las jurisdicciones de despliegue?" + ] + }, + "FA-02": { + "title": "Responsabilidad corporativa", + "questions": [ + "UNGPs Pilar II — ¿La organización ha llevado a cabo la debida diligencia en derechos humanos a lo largo del ciclo de vida de la IA?" + ] + }, + "FA-03": { + "title": "Acceso a la reparación", + "questions": [ + "UNGPs Pilar III — ¿Existen mecanismos de reclamación efectivos para las personas afectadas?" + ] + }, + "FA-04": { + "title": "Crecimiento inclusivo", + "questions": [ + "OECD — ¿El sistema de IA beneficia a la sociedad en general y no exacerba las desigualdades?" + ] + }, + "FA-05": { + "title": "Valores centrados en la persona", + "questions": [ + "OECD — ¿Se ha completado una evaluación de la posible discriminación y los resultados inequitativos?" + ] + }, + "FA-06": { + "title": "Transparencia y explicabilidad", + "questions": [ + "OECD — ¿Existe documentación sobre cómo funciona la IA, sus limitaciones y cómo toma decisiones?" + ] + }, + "FA-07": { + "title": "Robustez y seguridad", + "questions": [ + "OECD — ¿Se han evaluado los modos de fallo, las vulnerabilidades de seguridad y la fiabilidad?" + ] + }, + "FA-08": { + "title": "Rendición de cuentas", + "questions": [ + "OECD — ¿Se han establecido responsabilidades claras y mecanismos de supervisión?" + ] + }, + "FA-09": { + "title": "Clasificación de riesgo del Reglamento de IA de la UE", + "questions": [ + "¿Se ha determinado la clasificación de riesgo del sistema de IA (Inaceptable / Alto / Limitado / Mínimo)? (CRÍTICO)" + ] + }, + "FA-10": { + "title": "Evaluación de impacto en derechos fundamentales", + "questions": [ + "Si es de alto riesgo: ¿se ha realizado una Evaluación de Impacto en Derechos Fundamentales (FRIA) conforme al Artículo 27?" + ] + }, + "FA-11": { + "title": "Gobernanza de datos", + "questions": [ + "¿Se han establecido las medidas de gobernanza de datos adecuadas?" + ] + }, + "FA-12": { + "title": "Obligaciones de transparencia", + "questions": [ + "¿Se han cumplido las obligaciones de transparencia (se informa a los usuarios de que interactúan con IA cuando corresponda)?" + ] + }, + "FA-13": { + "title": "Requisitos de supervisión humana", + "questions": [ + "¿Se han establecido y documentado los requisitos de supervisión humana?" + ] + }, + "FA-14": { + "title": "Documentación técnica", + "questions": [ + "¿Se mantiene la documentación técnica según lo requerido?" + ] + }, + "FA-15": { + "title": "Registro en la base de datos de la UE", + "questions": [ + "¿Se ha completado el registro en la base de datos de la UE (si corresponde)?" + ] + }, + "FA-16": { + "title": "Evaluación del Consejo de Europa", + "questions": [ + "¿Se ha evaluado el impacto del sistema de IA en los derechos humanos, la democracia y el Estado de derecho?" + ] + }, + "FA-17": { + "title": "Cumplimiento de la Convención", + "questions": [ + "¿El sistema cumple con el énfasis de la Convención del Consejo de Europa en los derechos humanos, los principios democráticos y el Estado de derecho?" + ] + } + } + } + } } } diff --git a/frontend/src/locales/es/pages.json b/frontend/src/locales/es/pages.json index ff36002..d98bd0f 100644 --- a/frontend/src/locales/es/pages.json +++ b/frontend/src/locales/es/pages.json @@ -103,6 +103,20 @@ }, "frameworks": { "title": "Marcos normativos", - "noContent": "El contenido de este marco aún no ha sido cargado. El cuestionario y las secciones de informes están disponibles a través de las páginas de clasificación de riesgos e informes." + "noContent": "El contenido de este marco aún no ha sido cargado. El cuestionario y las secciones de informes están disponibles a través de las páginas de clasificación de riesgos e informes.", + "deleteFramework": "Eliminar marco normativo", + "deleteFrameworkConfirm": "¿Está seguro de que desea eliminar \"{{name}}\"? Se eliminarán todos los documentos y definiciones asociados. Puede volver a agregarlo más tarde.", + "addFrameworkTitle": "Agregar marco normativo", + "addFrameworkEmpty": "Todos los marcos normativos disponibles ya han sido agregados.", + "names": { + "EU AI Act": "Ley de IA de la UE", + "UNDP Human Rights Assessment": "Evaluación de Derechos Humanos del PNUD", + "Environmental Impact Framework": "Marco de Impacto Ambiental" + }, + "descriptions": { + "EU AI Act": "La Ley de Inteligencia Artificial de la Unión Europea establece un marco regulatorio integral para los sistemas de IA basado en la clasificación de riesgos. Exige evaluaciones de conformidad, obligaciones de transparencia y requisitos de supervisión humana para los sistemas de IA de alto riesgo.", + "UNDP Human Rights Assessment": "El Kit de Herramientas de Evaluación de Impacto en Derechos Humanos de la IA del PNUD proporciona una metodología estructurada para evaluar los sistemas de IA frente a los estándares internacionales de derechos humanos. Guía a las organizaciones a través de la participación de las partes interesadas, el análisis de riesgos basado en derechos y el monitoreo continuo para garantizar que los despliegues de IA respeten la dignidad, la igualdad y los principios de no discriminación.", + "Environmental Impact Framework": "El Marco de Impacto Ambiental para Sistemas de IA proporciona un enfoque estructurado para medir, informar y reducir la huella ambiental del desarrollo y despliegue de IA. Cubre el consumo de energía, las emisiones de carbono, el ciclo de vida del hardware y la sostenibilidad de los centros de datos para promover prácticas de IA responsables y ambientalmente conscientes." + } } } diff --git a/frontend/src/locales/fr/data.json b/frontend/src/locales/fr/data.json index b48a737..15a5eeb 100644 --- a/frontend/src/locales/fr/data.json +++ b/frontend/src/locales/fr/data.json @@ -1668,5 +1668,1251 @@ "name": "Plan de surveillance environnementale", "description": "Cadre de surveillance continue pour le suivi des indicateurs environnementaux, la définition d'objectifs de réduction et le reporting des progrès par rapport aux objectifs de durabilité." } + }, + "environmentalChecklist": { + "areas": { + "env-energy-carbon": { + "title": "Énergie", + "items": { + "EC-01": { + "title": "Mesure de l'énergie d'entraînement", + "questions": [ + "La consommation totale d'énergie pour l'entraînement du modèle a-t-elle été mesurée et documentée (en kWh) ?", + "Le mix de sources d'énergie (renouvelable vs. fossile) de l'infrastructure d'entraînement est-il connu et enregistré ?" + ] + }, + "EC-02": { + "title": "Mesure de l'énergie d'inférence", + "questions": [ + "La consommation d'énergie en cours d'inférence est-elle surveillée et rapportée ?", + "Les métriques d'énergie par requête sont-elles suivies pour les charges de travail en production ?" + ] + }, + "EC-03": { + "title": "Estimation de l'empreinte carbone", + "questions": [ + "L'empreinte carbone du système d'IA a-t-elle été estimée à l'aide d'une méthodologie reconnue (ex. GHG Protocol, ML CO₂ Impact) ?", + "Les émissions de Scope 1, 2 et 3 sont-elles prises en compte dans l'évaluation carbone ?" + ] + }, + "EC-04": { + "title": "Objectifs de réduction carbone", + "questions": [ + "Existe-t-il des objectifs documentés pour réduire l'empreinte carbone du système d'IA au fil du temps ?", + "Les progrès par rapport aux objectifs de réduction carbone sont-ils examinés à des intervalles définis ?" + ] + }, + "EC-05": { + "title": "Utilisation d'énergie renouvelable", + "questions": [ + "Quel pourcentage de l'énergie consommée par le système d'IA provient de sources renouvelables ?", + "Existe-t-il des engagements ou des plans pour augmenter l'utilisation d'énergie renouvelable pour les charges de travail d'IA ?" + ] + }, + "EC-06": { + "title": "Compensation carbone", + "questions": [ + "Si la compensation carbone est utilisée, les compensations sont-elles vérifiées et issues de programmes crédibles ?" + ] + } + } + }, + "env-hardware": { + "title": "Matériel", + "items": { + "HW-01": { + "title": "Sélection du matériel", + "questions": [ + "L'impact environnemental des choix de matériel (type de GPU/TPU, spécifications des serveurs) a-t-il été pris en compte lors de l'approvisionnement ?", + "Les options de matériel économes en énergie sont-elles privilégiées lorsque les exigences de performance le permettent ?" + ] + }, + "HW-02": { + "title": "Utilisation du matériel", + "questions": [ + "Les taux d'utilisation du matériel sont-ils surveillés pour minimiser la consommation de ressources inactives ?", + "Des stratégies de planification des charges de travail (ex. traitement par lots, planification hors pointe) sont-elles utilisées pour améliorer l'efficacité ?" + ] + }, + "HW-03": { + "title": "Durée de vie du matériel", + "questions": [ + "Les cycles de renouvellement du matériel sont-ils planifiés pour équilibrer les besoins de performance et l'impact environnemental ?", + "La réutilisation, la remise à neuf ou le don du matériel sont-ils envisagés avant la mise au rebut ?" + ] + }, + "HW-04": { + "title": "Gestion des déchets électroniques", + "questions": [ + "Le matériel en fin de vie est-il éliminé via des programmes de recyclage de déchets électroniques certifiés ?", + "Les matières dangereuses dans les composants matériels sont-elles suivies et gérées conformément aux réglementations ?" + ] + }, + "HW-05": { + "title": "Durabilité de la chaîne d'approvisionnement", + "questions": [ + "Les fournisseurs de matériel sont-ils évalués pour leurs pratiques environnementales et leurs engagements en matière de durabilité ?" + ] + } + } + }, + "env-data-management": { + "title": "Données", + "items": { + "DM-01": { + "title": "Efficacité du stockage de données", + "questions": [ + "Les pratiques de stockage de données sont-elles optimisées pour minimiser la consommation d'énergie (ex. stockage hiérarchisé, compression, déduplication) ?", + "Existe-t-il une politique de conservation des données garantissant que les données inutiles sont supprimées pour réduire l'empreinte de stockage ?" + ] + }, + "DM-02": { + "title": "Efficacité du transfert de données", + "questions": [ + "Les volumes de transfert de données sont-ils minimisés grâce au traitement en périphérie, à la mise en cache ou à des stratégies de localité des données ?", + "Le coût environnemental des transferts de données à grande échelle (ex. inter-régions, inter-cloud) est-il pris en compte ?" + ] + }, + "DM-03": { + "title": "Sélection du centre de données", + "questions": [ + "Les centres de données sont-ils sélectionnés sur la base de critères environnementaux tels que le PUE, l'efficacité de l'utilisation de l'eau et l'approvisionnement en énergie renouvelable ?", + "La localisation géographique des centres de données est-elle choisie pour optimiser les climats plus frais ou la disponibilité d'énergie renouvelable ?" + ] + }, + "DM-04": { + "title": "Utilisation de l'eau", + "questions": [ + "L'utilisation de l'eau des systèmes de refroidissement pour les charges de travail d'IA est-elle mesurée et documentée ?", + "Des technologies de refroidissement économes en eau sont-elles employées lorsque cela est possible ?" + ] + } + } + }, + "env-model-efficiency": { + "title": "Efficacité", + "items": { + "ME-01": { + "title": "Justification de la taille du modèle", + "questions": [ + "La taille du modèle (nombre de paramètres) est-elle justifiée par rapport aux exigences de la tâche ?", + "Des architectures de modèles plus petites ou plus efficaces ont-elles été évaluées avant de sélectionner le modèle final ?" + ] + }, + "ME-02": { + "title": "Efficacité de l'entraînement", + "questions": [ + "Des techniques d'entraînement efficaces sont-elles utilisées (ex. apprentissage par transfert, entraînement en précision mixte, arrêt précoce) ?", + "Le nombre d'exécutions d'entraînement et de recherches d'hyperparamètres est-il documenté et justifié ?" + ] + }, + "ME-03": { + "title": "Optimisation de l'inférence", + "questions": [ + "Des techniques d'optimisation de l'inférence sont-elles appliquées (ex. quantification, élagage, distillation, mise en cache) ?", + "Le compromis entre la précision du modèle et le coût de calcul est-il explicitement évalué ?" + ] + }, + "ME-04": { + "title": "Fréquence de réentraînement", + "questions": [ + "Le calendrier de réentraînement est-il justifié par des métriques de dégradation des performances plutôt que par des intervalles fixes ?", + "Des approches incrémentales ou d'ajustement fin sont-elles utilisées à la place d'un réentraînement complet lorsque cela est possible ?" + ] + }, + "ME-05": { + "title": "Étalonnage", + "questions": [ + "Les métriques d'efficacité environnementale (ex. précision par watt, débit par kWh) sont-elles suivies en parallèle des métriques de performance ?" + ] + } + } + }, + "env-lifecycle": { + "title": "Cycle de vie", + "items": { + "LC-01": { + "title": "Analyse du cycle de vie", + "questions": [ + "Une analyse du cycle de vie a-t-elle été réalisée, couvrant l'impact environnemental du développement au déploiement jusqu'au démantèlement ?", + "Les émissions intrinsèques liées à la fabrication du matériel sont-elles incluses dans l'analyse du cycle de vie ?" + ] + }, + "LC-02": { + "title": "Plan de démantèlement", + "questions": [ + "Existe-t-il un plan documenté pour le démantèlement écoresponsable du système d'IA et de son infrastructure ?", + "Le plan de démantèlement aborde-t-il la suppression des données, la mise au rebut du matériel et l'arrêt progressif des services ?" + ] + }, + "LC-03": { + "title": "Durabilité des fournisseurs et du cloud", + "questions": [ + "Les fournisseurs cloud et les prestataires tiers sont-ils évalués pour leurs engagements environnementaux et leurs rapports ?", + "Les accords de niveau de service incluent-ils des critères de performance environnementale ?" + ] + }, + "LC-04": { + "title": "Pratiques d'économie circulaire", + "questions": [ + "Les principes de l'économie circulaire (réutilisation, réparation, recyclage) sont-ils appliqués à l'infrastructure et au matériel d'IA ?" + ] + } + } + }, + "env-monitoring": { + "title": "Suivi", + "items": { + "EM-01": { + "title": "KPI environnementaux", + "questions": [ + "Des indicateurs clés de performance (KPI) environnementaux sont-ils définis pour le système d'IA (ex. énergie par inférence, carbone total, utilisation de l'eau) ?", + "Les KPI sont-ils révisés et mis à jour à intervalles réguliers ?" + ] + }, + "EM-02": { + "title": "Rapports et divulgation", + "questions": [ + "Les données d'impact environnemental sont-elles communiquées aux parties prenantes internes et, le cas échéant, aux organismes externes ?", + "Les rapports environnementaux suivent-ils une norme ou un cadre reconnu (ex. GRI, CDP, TCFD) ?" + ] + }, + "EM-03": { + "title": "Amélioration continue", + "questions": [ + "Existe-t-il un processus documenté pour identifier et mettre en œuvre des améliorations environnementales sur la base des données de suivi ?", + "Les enseignements tirés des incidents environnementaux ou des insuffisances de performance sont-ils systématiquement capitalisés ?" + ] + }, + "EM-04": { + "title": "Conformité réglementaire", + "questions": [ + "L'organisation suit-elle et respecte-t-elle les réglementations environnementales applicables liées à l'IA et aux opérations des centres de données ?" + ] + }, + "EM-05": { + "title": "Intégration des objectifs de durabilité", + "questions": [ + "Les objectifs environnementaux spécifiques à l'IA sont-ils alignés sur les objectifs et engagements de durabilité plus larges de l'organisation (ex. engagements de neutralité carbone) ?" + ] + } + } + } + } + }, + "undpChecklist": { + "areas": { + "undp-zero-question": { + "title": "Question 0", + "items": { + "ZQ-01": { + "title": "Évaluation de la nécessité de l'IA", + "questions": [ + "A-t-il été évalué si une solution basée sur l'IA est réellement nécessaire, ou si des alternatives non algorithmiques pourraient atteindre le même objectif ? (CRITIQUE)" + ] + }, + "ZQ-02": { + "title": "Justification de l'IA", + "questions": [ + "La justification du choix d'une approche basée sur l'IA par rapport aux alternatives a-t-elle été documentée ?" + ] + }, + "ZQ-03": { + "title": "Analyse SWOT", + "questions": [ + "Une analyse SWOT (Forces, Faiblesses, Opportunités, Menaces) de l'approche IA par rapport aux alternatives a-t-elle été réalisée ?" + ] + }, + "ZQ-04": { + "title": "Compatibilité avec les droits fondamentaux", + "questions": [ + "A-t-il été confirmé que la solution d'IA ne poursuit pas un objectif intrinsèquement incompatible avec les droits fondamentaux ?" + ] + } + } + }, + "undp-org-readiness": { + "title": "Préparation", + "items": { + "OR-01": { + "title": "Politique des droits de l'homme", + "questions": [ + "L'organisation dispose-t-elle d'une politique documentée en matière de droits de l'homme couvrant la conception, le développement et le déploiement de l'IA ?" + ] + }, + "OR-02": { + "title": "Soutien de la direction", + "questions": [ + "La direction soutient-elle activement et alloue-t-elle des ressources pour la diligence raisonnable en matière de droits de l'homme pour les initiatives d'IA ?" + ] + }, + "OR-03": { + "title": "Canaux de signalement", + "questions": [ + "Des canaux dédiés existent-ils pour que les employés signalent les problèmes potentiels de droits de l'homme liés aux systèmes d'IA ?" + ] + }, + "OR-04": { + "title": "Révision des politiques", + "questions": [ + "L'organisation révise-t-elle et met-elle à jour régulièrement ses politiques pour traiter les questions émergentes de droits de l'homme liées à l'IA ?" + ] + }, + "OR-05": { + "title": "Collaboration interdépartementale", + "questions": [ + "La collaboration interdépartementale sur les droits de l'homme dans l'IA est-elle facilitée ?" + ] + }, + "OR-06": { + "title": "Engagement des parties prenantes", + "questions": [ + "L'organisation implique-t-elle les parties prenantes (y compris les communautés affectées) pour obtenir des contributions et des retours tout au long du cycle de vie de l'IA ?" + ] + }, + "OR-07": { + "title": "Allocation de ressources", + "questions": [ + "L'organisation alloue-t-elle des ressources suffisantes pour la formation, les évaluations des risques et l'engagement des parties prenantes ?" + ] + }, + "OR-08": { + "title": "Transparence publique", + "questions": [ + "L'organisation accorde-t-elle la priorité à la transparence et à la communication avec le public concernant l'utilisation de l'IA ?" + ] + }, + "OR-09": { + "title": "Compréhension de la direction", + "questions": [ + "L'équipe de direction a-t-elle une compréhension approfondie des implications de l'IA en matière de droits de l'homme ?" + ] + }, + "OR-10": { + "title": "Formation des employés", + "questions": [ + "Les employés reçoivent-ils une formation régulière sur les droits de l'homme et les considérations éthiques dans l'IA ?" + ] + }, + "OR-11": { + "title": "Personnel désigné", + "questions": [ + "Du personnel ou des équipes désignées sont-ils responsables du suivi et du traitement des questions de droits de l'homme dans les projets d'IA ?" + ] + }, + "OR-12": { + "title": "Expertise externe", + "questions": [ + "L'organisation collabore-t-elle avec des experts externes en droits de l'homme et en IA ?" + ] + }, + "OR-13": { + "title": "Protection des lanceurs d'alerte", + "questions": [ + "Les employés sont-ils protégés contre les représailles lorsqu'ils soulèvent des préoccupations en matière de droits de l'homme concernant l'IA ?" + ] + }, + "OR-14": { + "title": "Intégration des retours", + "questions": [ + "Existe-t-il un processus pour intégrer les retours des parties prenantes dans les pratiques d'IA ?" + ] + }, + "OR-15": { + "title": "Expertise juridique", + "questions": [ + "L'organisation a-t-elle accès à une expertise juridique en droits de l'homme et en IA ?" + ] + }, + "OR-16": { + "title": "Ressources de bonnes pratiques", + "questions": [ + "Des ressources sont-elles fournies aux employés pour se tenir informés des bonnes pratiques ?" + ] + }, + "OR-17": { + "title": "Participation sectorielle", + "questions": [ + "L'organisation participe-t-elle à des groupes ou forums sectoriels sur les droits de l'homme et l'IA ?" + ] + }, + "OR-18": { + "title": "Évaluation des lacunes en compétences", + "questions": [ + "L'organisation évalue-t-elle et comble-t-elle régulièrement les lacunes en compétences liées aux droits de l'homme et à l'IA ?" + ] + }, + "OR-19": { + "title": "Processus d'évaluation d'impact", + "questions": [ + "Existe-t-il un processus systématique d'évaluation de l'impact sur les droits de l'homme pour tous les projets d'IA ? (CRITIQUE)" + ] + }, + "OR-20": { + "title": "Évaluation de l'IA tierce", + "questions": [ + "Des procédures existent-elles pour évaluer les impacts sur les droits de l'homme des systèmes d'IA tiers intégrés ou utilisés ? (CRITIQUE)" + ] + }, + "OR-21": { + "title": "Identification des risques", + "questions": [ + "Un processus systématique d'identification des risques est-il en place, incluant des tests de fiabilité, de précision et de résilience ?" + ] + }, + "OR-22": { + "title": "Engagement communautaire", + "questions": [ + "Les parties prenantes (y compris les communautés affectées) sont-elles impliquées dans le processus de déploiement de l'IA ?" + ] + }, + "OR-23": { + "title": "Évaluation pré-déploiement", + "questions": [ + "Tous les projets d'IA font-ils l'objet d'une évaluation de l'impact sur les droits de l'homme et la protection des données avant le déploiement ? (CRITIQUE)" + ] + }, + "OR-24": { + "title": "Protocoles de sécurité des données", + "questions": [ + "Des protocoles de sécurité et de confidentialité des données sont-ils établis pour tous les processus liés à l'IA ?" + ] + }, + "OR-25": { + "title": "Mises à jour réglementaires", + "questions": [ + "Les processus sont-ils régulièrement mis à jour pour intégrer les nouvelles réglementations et normes ?" + ] + }, + "OR-26": { + "title": "Processus de surveillance", + "questions": [ + "Un processus de surveillance est-il établi pour suivre les performances du système d'IA et sa conformité aux normes en matière de droits de l'homme ? (CRITIQUE)" + ] + }, + "OR-27": { + "title": "Atténuation des défaillances", + "questions": [ + "L'organisation a-t-elle la capacité d'atténuer et de minimiser les effets négatifs des défaillances du système d'IA ?" + ] + }, + "OR-28": { + "title": "Mécanisme de recours", + "questions": [ + "Un mécanisme de recours est-il en place pour les personnes affectées négativement par les systèmes d'IA ? (CRITIQUE)" + ] + } + } + }, + "undp-planning": { + "title": "Planification", + "items": { + "PS-01": { + "title": "Finalité du système", + "questions": [ + "La finalité principale du système d'IA a-t-elle été documentée ? (CRITIQUE)" + ] + }, + "PS-02": { + "title": "Caractéristiques techniques", + "questions": [ + "Les principales caractéristiques techniques du système ont-elles été documentées (type de modèle d'IA, architecture) ?" + ] + }, + "PS-03": { + "title": "Juridictions de déploiement", + "questions": [ + "Tous les pays/juridictions où le système sera déployé ont-ils été identifiés ?" + ] + }, + "PS-04": { + "title": "Types de données", + "questions": [ + "Tous les types de données traitées (personnelles, non personnelles, catégories spéciales) pour l'entraînement et le fonctionnement ont-ils été identifiés ? (CRITIQUE)" + ] + }, + "PS-05": { + "title": "Cartographie des flux de données", + "questions": [ + "Tous les flux de données ont-ils été cartographiés — de la collecte au traitement, puis au stockage et à la suppression ?" + ] + }, + "PS-06": { + "title": "Personnes affectées", + "questions": [ + "Toutes les personnes ou groupes potentiellement affectés par le système d'IA ont-ils été identifiés ? (CRITIQUE)" + ] + }, + "PS-07": { + "title": "Groupes vulnérables", + "questions": [ + "A-t-il été évalué si les groupes affectés comprennent des personnes ou groupes vulnérables (enfants, minorités, personnes en situation de handicap, etc.) ?" + ] + }, + "PS-08": { + "title": "Titulaires d'obligations", + "questions": [ + "Tous les titulaires d'obligations ont-ils été identifiés — qui est impliqué dans la conception, la fourniture et le déploiement, et quel est leur rôle ? (CRITIQUE)" + ] + }, + "PS-09": { + "title": "Chaîne de responsabilité", + "questions": [ + "La chaîne de responsabilité du développeur au déployeur a-t-elle été documentée ?" + ] + }, + "PS-10": { + "title": "Politiques existantes", + "questions": [ + "Les politiques et procédures existantes pour l'évaluation des impacts sur les droits de l'homme (y compris l'engagement des parties prenantes) ont-elles été documentées ?" + ] + }, + "PS-11": { + "title": "Évaluations d'impact antérieures", + "questions": [ + "Les évaluations d'impact antérieures ont-elles été documentées (ex. analyse d'impact relative à la protection des données, évaluations sectorielles) ?" + ] + }, + "PS-12": { + "title": "Identification des groupes affectés", + "questions": [ + "Tous les groupes ou communautés potentiellement affectés par le système d'IA (y compris pendant le développement) ont-ils été identifiés ? (CRITIQUE)" + ] + }, + "PS-13": { + "title": "Parties prenantes pertinentes", + "questions": [ + "Toutes les parties prenantes pertinentes à impliquer ont-elles été identifiées (société civile, organisations internationales, experts, associations professionnelles, journalistes) ?" + ] + }, + "PS-14": { + "title": "Titulaires d'obligations supplémentaires", + "questions": [ + "Des titulaires d'obligations supplémentaires au-delà du fournisseur et du déployeur d'IA ont-ils été identifiés (autorités nationales, agences gouvernementales) ?" + ] + }, + "PS-15": { + "title": "Évaluation de la chaîne d'approvisionnement", + "questions": [ + "A-t-il été évalué si les partenaires commerciaux et fournisseurs (sous-traitants de systèmes d'IA et de jeux de données) ont été impliqués dans l'évaluation ? (CRITIQUE)" + ] + }, + "PS-16": { + "title": "Impact des fournisseurs sur les droits de l'homme", + "questions": [ + "Le fournisseur d'IA a-t-il réalisé une évaluation de la chaîne d'approvisionnement pour les impacts potentiels sur les droits de l'homme de la part des fournisseurs/sous-traitants ? (CRITIQUE)" + ] + }, + "PS-17": { + "title": "Normes des fournisseurs", + "questions": [ + "Le fournisseur d'IA a-t-il promu des normes ou des audits en matière de droits de l'homme auprès de ses fournisseurs ?" + ] + }, + "PS-18": { + "title": "Communication publique", + "questions": [ + "Le fournisseur d'IA et les développeurs communiquent-ils publiquement les impacts potentiels du système d'IA sur les droits de l'homme ?" + ] + }, + "PS-19": { + "title": "Formation du personnel", + "questions": [ + "Le fournisseur d'IA et les développeurs dispensent-ils une formation sur les normes en matière de droits de l'homme au personnel de direction et d'approvisionnement ?" + ] + } + } + }, + "undp-rights-mapping": { + "title": "Droits", + "items": { + "HRM-01": { + "title": "Identification des droits", + "questions": [ + "Tous les droits de l'homme potentiellement affectés par le système d'IA ont-ils été identifiés, à l'aide de la liste de contrôle exhaustive des droits ? (CRITIQUE)" + ] + }, + "HRM-02": { + "title": "Dignité humaine", + "questions": [ + "L'impact potentiel sur la dignité humaine a-t-il été évalué ?" + ] + }, + "HRM-03": { + "title": "Liberté de discrimination", + "questions": [ + "L'impact potentiel sur la liberté de discrimination a-t-il été évalué ?" + ] + }, + "HRM-04": { + "title": "Droit à la vie", + "questions": [ + "L'impact potentiel sur le droit à la vie a-t-il été évalué ?" + ] + }, + "HRM-05": { + "title": "Liberté de l'esclavage", + "questions": [ + "L'impact potentiel sur la liberté de l'esclavage a-t-il été évalué ?" + ] + }, + "HRM-06": { + "title": "Liberté des traitements inhumains", + "questions": [ + "L'impact potentiel sur la liberté des traitements inhumains ou dégradants a-t-il été évalué ?" + ] + }, + "HRM-07": { + "title": "Droit à la vie privée", + "questions": [ + "L'impact potentiel sur le droit à la vie privée a-t-il été évalué ?" + ] + }, + "HRM-08": { + "title": "Droit à la propriété", + "questions": [ + "L'impact potentiel sur le droit à la propriété a-t-il été évalué ?" + ] + }, + "HRM-09": { + "title": "Liberté de pensée", + "questions": [ + "L'impact potentiel sur la liberté de pensée, de conscience et de religion a-t-il été évalué ?" + ] + }, + "HRM-10": { + "title": "Liberté d'expression", + "questions": [ + "L'impact potentiel sur la liberté d'expression a-t-il été évalué ?" + ] + }, + "HRM-11": { + "title": "Liberté de circulation", + "questions": [ + "L'impact potentiel sur la liberté de circulation a-t-il été évalué ?" + ] + }, + "HRM-12": { + "title": "Liberté de réunion", + "questions": [ + "L'impact potentiel sur la liberté de réunion a-t-il été évalué ?" + ] + }, + "HRM-13": { + "title": "Liberté d'association", + "questions": [ + "L'impact potentiel sur le droit à la liberté d'association a-t-il été évalué ?" + ] + }, + "HRM-14": { + "title": "Droit au mariage et à la famille", + "questions": [ + "L'impact potentiel sur le droit au mariage et à la famille a-t-il été évalué ?" + ] + }, + "HRM-15": { + "title": "Niveau de vie suffisant", + "questions": [ + "L'impact potentiel sur le droit à un niveau de vie suffisant (y compris la santé) a-t-il été évalué ?" + ] + }, + "HRM-16": { + "title": "Droit à l'éducation", + "questions": [ + "L'impact potentiel sur le droit à l'éducation a-t-il été évalué ?" + ] + }, + "HRM-17": { + "title": "Droit à la sécurité sociale", + "questions": [ + "L'impact potentiel sur le droit à la sécurité sociale a-t-il été évalué ?" + ] + }, + "HRM-18": { + "title": "Vie culturelle et scientifique", + "questions": [ + "L'impact potentiel sur le droit de participer à la vie culturelle, artistique et scientifique a-t-il été évalué ?" + ] + }, + "HRM-19": { + "title": "Droit au travail", + "questions": [ + "L'impact potentiel sur le droit au travail a-t-il été évalué ?" + ] + }, + "HRM-20": { + "title": "Droit au repos", + "questions": [ + "L'impact potentiel sur le droit au repos et aux loisirs a-t-il été évalué ?" + ] + }, + "HRM-21": { + "title": "Droits des minorités", + "questions": [ + "L'impact potentiel sur les droits des minorités religieuses, ethniques ou linguistiques a-t-il été évalué ?" + ] + }, + "HRM-22": { + "title": "Droits des enfants", + "questions": [ + "L'impact potentiel sur les droits des enfants a-t-il été évalué ?" + ] + }, + "HRM-23": { + "title": "Liberté de la torture", + "questions": [ + "L'impact potentiel sur la liberté de la torture a-t-il été évalué ?" + ] + }, + "HRM-24": { + "title": "Reconnaissance devant la loi", + "questions": [ + "L'impact potentiel sur le droit à la reconnaissance devant la loi a-t-il été évalué ?" + ] + }, + "HRM-25": { + "title": "Égalité devant la loi", + "questions": [ + "L'impact potentiel sur le droit à l'égalité devant la loi a-t-il été évalué ?" + ] + }, + "HRM-26": { + "title": "Accès à la justice", + "questions": [ + "L'impact potentiel sur l'accès à la justice a-t-il été évalué ?" + ] + }, + "HRM-27": { + "title": "Liberté de détention arbitraire", + "questions": [ + "L'impact potentiel sur la liberté de détention arbitraire a-t-il été évalué ?" + ] + }, + "HRM-28": { + "title": "Droit à un procès équitable", + "questions": [ + "L'impact potentiel sur le droit à un procès équitable a-t-il été évalué ?" + ] + }, + "HRM-29": { + "title": "Présomption d'innocence", + "questions": [ + "L'impact potentiel sur la présomption d'innocence a-t-il été évalué ?" + ] + }, + "HRM-30": { + "title": "Droit à un recours juridique", + "questions": [ + "L'impact potentiel sur le droit à un recours juridique a-t-il été évalué ?" + ] + }, + "HRM-31": { + "title": "Droit d'asile", + "questions": [ + "L'impact potentiel sur le droit d'asile a-t-il été évalué ?" + ] + }, + "HRM-32": { + "title": "Droit à la nationalité", + "questions": [ + "L'impact potentiel sur le droit à la nationalité a-t-il été évalué ?" + ] + }, + "HRM-33": { + "title": "Participation aux affaires publiques", + "questions": [ + "L'impact potentiel sur le droit de participer aux affaires publiques a-t-il été évalué ?" + ] + }, + "HRM-34": { + "title": "Instruments juridiques", + "questions": [ + "Tous les instruments juridiques internationaux/régionaux applicables pour la protection des droits de l'homme dans les juridictions de déploiement ont-ils été identifiés ?" + ] + }, + "HRM-35": { + "title": "Organes de contrôle", + "questions": [ + "Les cours des droits de l'homme ou les organes de contrôle pertinents ont-ils été identifiés ?" + ] + }, + "HRM-36": { + "title": "Jurisprudence", + "questions": [ + "La jurisprudence et les dispositions juridiques les plus pertinentes dans le domaine des droits de l'homme ont-elles été identifiées ?" + ] + } + } + }, + "undp-data-diligence": { + "title": "Diligence", + "items": { + "DD-01": { + "title": "Origine des données", + "questions": [ + "L'origine des données d'entraînement primaires est-elle documentée (collectées, achetées, extraites) ? (CRITIQUE)" + ] + }, + "DD-02": { + "title": "Consentement relatif aux données", + "questions": [ + "Le consentement a-t-il été obtenu de manière appropriée pour la collecte de données ? (CRITIQUE)" + ] + }, + "DD-03": { + "title": "Diversité des données", + "questions": [ + "Des mesures ont-elles été prises pour garantir que les données représentent la diversité de la population affectée (genre, race, âge, handicap, localisation) ?" + ] + }, + "DD-04": { + "title": "Biais des données", + "questions": [ + "Les limitations connues ou les biais potentiels du jeu de données ont-ils été identifiés et documentés ?" + ] + }, + "DD-05": { + "title": "Protection des données sensibles", + "questions": [ + "Les données personnelles/sensibles sont-elles traitées et protégées de manière appropriée tout au long du cycle de vie ?" + ] + }, + "DD-06": { + "title": "Étiquetage des données", + "questions": [ + "Les processus d'étiquetage des données sont-ils documentés, y compris les sources potentielles de biais subjectif ?" + ] + }, + "DD-07": { + "title": "Objectif de l'entraînement", + "questions": [ + "L'objectif spécifique de l'entraînement de l'IA est-il documenté (clarifie la fonction prévue par rapport à l'utilisation abusive potentielle) ?" + ] + }, + "DD-08": { + "title": "Critères d'équité", + "questions": [ + "Des critères/métriques d'équité ont-ils été utilisés lors de l'entraînement et de l'évaluation (avec documentation de ceux utilisés) ?" + ] + }, + "DD-09": { + "title": "Limitations du modèle", + "questions": [ + "Les limitations connues, les modes de défaillance et les limites de performance du modèle entraîné sont-ils documentés ?" + ] + }, + "DD-10": { + "title": "Type de modèle", + "questions": [ + "Le type de modèle d'IA est-il documenté avec la justification de sa sélection (prédictif, génératif, etc.) ?" + ] + }, + "DD-11": { + "title": "Mesure des performances", + "questions": [ + "Les performances du système sont-elles mesurées et documentées ? (CRITIQUE)" + ] + }, + "DD-12": { + "title": "Performances par sous-groupe", + "questions": [ + "Les résultats de performance sont-ils disponibles ventilés par sous-groupes pertinents (âge, genre, race, origine ethnique, handicap) ? (CRITIQUE)" + ] + }, + "DD-13": { + "title": "Documentation du modèle", + "questions": [ + "La documentation du modèle est-elle disponible (ex. fiche de modèle, fiche de données) ?" + ] + }, + "DD-14": { + "title": "Explicabilité", + "questions": [ + "Des fonctionnalités sont-elles disponibles pour expliquer les décisions/résultats spécifiques de l'IA (explicabilité) ? (CRITIQUE)" + ] + }, + "DD-15": { + "title": "Surveillance humaine", + "questions": [ + "La surveillance humaine est-elle prévue ou requise dans le contexte de déploiement ? (CRITIQUE)" + ] + }, + "DD-16": { + "title": "Suivi post-déploiement", + "questions": [ + "Existe-t-il un processus de suivi et de mise à jour post-déploiement ? (CRITIQUE)" + ] + }, + "DD-17": { + "title": "Retours et réclamations", + "questions": [ + "Existe-t-il un processus pour traiter les retours, réclamations ou problèmes identifiés ? (CRITIQUE)" + ] + }, + "DD-18": { + "title": "Tests d'entrée", + "questions": [ + "Des tests d'entrée ont-ils été réalisés (cas limites — langage informel, noms inhabituels, valeurs extrêmes) ?" + ] + }, + "DD-19": { + "title": "Détection de biais", + "questions": [ + "Une détection de biais a-t-elle été réalisée (mêmes requêtes avec différents profils démographiques) ?" + ] + }, + "DD-20": { + "title": "Tests fonctionnels", + "questions": [ + "Des tests fonctionnels ont-ils été réalisés (le système fait-il de manière fiable ce qu'il prétend faire) ?" + ] + }, + "DD-21": { + "title": "Vérification d'accessibilité", + "questions": [ + "Une vérification d'accessibilité a-t-elle été réalisée (compatibilité avec les lecteurs d'écran, méthodes de saisie alternatives) ?" + ] + }, + "DD-22": { + "title": "Revue des résultats", + "questions": [ + "Une revue des résultats a-t-elle été réalisée (vérification des hallucinations, erreurs factuelles, contenu biaisé/nuisible) ?" + ] + } + } + }, + "undp-risk-analysis": { + "title": "Analyse", + "items": { + "RA-01": { + "title": "Évaluation de la probabilité", + "questions": [ + "La probabilité de résultats négatifs a-t-elle été évaluée pour chaque droit affecté (Faible / Moyen / Élevé / Très élevé) ?" + ] + }, + "RA-02": { + "title": "Évaluation de l'exposition", + "questions": [ + "L'exposition a-t-elle été évaluée — la proportion de titulaires de droits identifiés potentiellement affectés (Faible / Moyen / Élevé / Très élevé) ?" + ] + }, + "RA-03": { + "title": "Vraisemblance globale", + "questions": [ + "La vraisemblance globale a-t-elle été calculée à l'aide de la matrice Probabilité x Exposition ?" + ] + }, + "RA-04": { + "title": "Gravité du préjudice", + "questions": [ + "La gravité du préjudice a-t-elle été évaluée — en tenant compte de l'intensité, des conséquences, de l'importance du droit violé, de l'impact sur les groupes spécifiques et de la vulnérabilité (Faible / Moyen / Élevé / Très élevé) ?" + ] + }, + "RA-05": { + "title": "Effort de remédiation", + "questions": [ + "L'effort pour surmonter les effets négatifs a-t-il été évalué — réversibilité et difficulté de remédiation (Faible / Moyen / Élevé / Très élevé) ?" + ] + }, + "RA-06": { + "title": "Sévérité globale", + "questions": [ + "La sévérité globale a-t-elle été calculée à l'aide de la matrice Gravité x Effort ?" + ] + }, + "RA-07": { + "title": "Indice de risque", + "questions": [ + "L'indice de risque a-t-il été calculé pour chaque droit affecté (matrice Vraisemblance x Sévérité) ? (CRITIQUE)" + ] + }, + "RA-08": { + "title": "Visualisation de l'impact", + "questions": [ + "Un graphique radial ou une visualisation équivalente a-t-il été créé montrant l'impact sur l'ensemble des droits affectés ?" + ] + }, + "RA-09": { + "title": "Évaluation indépendante", + "questions": [ + "Chaque droit a-t-il été évalué indépendamment — sans indice cumulatif combinant les impacts sur les différents droits ?" + ] + }, + "RA-10": { + "title": "Facteurs d'exclusion du risque", + "questions": [ + "Les facteurs susceptibles d'exclure le risque ont-ils été évalués (limitations légales justifiant certains impacts) ?" + ] + }, + "RA-11": { + "title": "Test de mise en balance", + "questions": [ + "Un test de mise en balance a-t-il été appliqué lorsque des droits contradictoires existent (uniquement après l'évaluation individuelle de l'impact) ?" + ] + }, + "RA-12": { + "title": "Analyse des bénéfices", + "questions": [ + "Les bénéfices potentiels ont-ils été analysés en termes de renforcement ou de protection d'autres droits protégés ?" + ] + } + } + }, + "undp-risk-management": { + "title": "Gestion", + "items": { + "RMG-01": { + "title": "Mesures d'atténuation", + "questions": [ + "Des mesures spécifiques ont-elles été identifiées pour prévenir ou atténuer chaque risque évalué comme Moyen, Élevé ou Très élevé ? (CRITIQUE)" + ] + }, + "RMG-02": { + "title": "Mesures contextualisées", + "questions": [ + "Les mesures sont-elles contextualisées par rapport au système d'IA spécifique, à ses caractéristiques et à son contexte de déploiement ?" + ] + }, + "RMG-03": { + "title": "Vraisemblance et sévérité", + "questions": [ + "Les mesures abordent-elles à la fois les dimensions de vraisemblance et de sévérité ?" + ] + }, + "RMG-04": { + "title": "Calendrier de mise en œuvre", + "questions": [ + "Un calendrier de mise en œuvre a-t-il été établi pour chaque mesure ?" + ] + }, + "RMG-05": { + "title": "Attribution des responsabilités", + "questions": [ + "Une personne ou une équipe responsable a-t-elle été désignée pour chaque mesure ?" + ] + }, + "RMG-06": { + "title": "Réévaluation du risque résiduel", + "questions": [ + "Après la mise en œuvre des mesures d'atténuation, le risque résiduel a-t-il été réévalué pour chaque droit affecté ? (CRITIQUE)" + ] + }, + "RMG-07": { + "title": "Vraisemblance résiduelle", + "questions": [ + "La vraisemblance résiduelle a-t-elle été recalculée ?" + ] + }, + "RMG-08": { + "title": "Sévérité résiduelle", + "questions": [ + "La sévérité résiduelle a-t-elle été recalculée ?" + ] + }, + "RMG-09": { + "title": "Impact résiduel", + "questions": [ + "L'impact résiduel global a-t-il été documenté ?" + ] + }, + "RMG-10": { + "title": "Évaluation de l'acceptabilité", + "questions": [ + "L'acceptabilité du risque résiduel a-t-elle été évaluée ?" + ] + }, + "RMG-11": { + "title": "Risque élevé persistant", + "questions": [ + "Si le risque résiduel reste Élevé ou Très élevé, des mesures supplémentaires ou une refonte du projet ont-elles été envisagées ?" + ] + }, + "RMG-12": { + "title": "Registres de décisions", + "questions": [ + "Un registre complet de toutes les décisions d'évaluation des risques, des justifications de notation et des choix de matrice est-il tenu ? (CRITIQUE)" + ] + }, + "RMG-13": { + "title": "Critères d'échelle", + "questions": [ + "Existe-t-il un registre de tous les critères d'échelle utilisés et de la justification des plages ?" + ] + }, + "RMG-14": { + "title": "Contributions des parties prenantes", + "questions": [ + "Toutes les contributions des parties prenantes sont-elles documentées ?" + ] + }, + "RMG-15": { + "title": "Documentation de l'efficacité", + "questions": [ + "Les mesures d'atténuation et leur efficacité attendue sont-elles documentées ?" + ] + } + } + }, + "undp-monitoring": { + "title": "Suivi", + "items": { + "MI-01": { + "title": "Plan de suivi", + "questions": [ + "Un plan de suivi a-t-il été établi pour les performances post-déploiement du système d'IA ? (CRITIQUE)" + ] + }, + "MI-02": { + "title": "Réévaluation périodique", + "questions": [ + "Un calendrier de réévaluation périodique a-t-il été défini (approche itérative circulaire) ?" + ] + }, + "MI-03": { + "title": "Détection de la dérive", + "questions": [ + "Un processus est-il en place pour détecter la dérive du modèle et les biais émergents au fil du temps ?" + ] + }, + "MI-04": { + "title": "Canaux de retour", + "questions": [ + "Des canaux de retour ont-ils été établis pour que les personnes affectées puissent signaler un préjudice ? (CRITIQUE)" + ] + }, + "MI-05": { + "title": "Mécanisme de recours", + "questions": [ + "Un mécanisme de recours/réparation efficace est-il opérationnel pour les personnes affectées négativement ? (CRITIQUE)" + ] + }, + "MI-06": { + "title": "Déclencheurs de réévaluation", + "questions": [ + "Des déclencheurs ont-ils été définis pour déterminer quand une réévaluation complète est requise (ex. mise à jour significative du système, changement de contexte de déploiement, nouvelles exigences réglementaires, incidents signalés) ?" + ] + }, + "MI-07": { + "title": "Intégration réglementaire", + "questions": [ + "Existe-t-il un processus pour intégrer les nouvelles réglementations et normes à mesure qu'elles émergent ?" + ] + }, + "MI-08": { + "title": "Boucle de rétroaction", + "questions": [ + "Les résultats du suivi alimentent-ils le cycle d'évaluation des risques et d'atténuation ?" + ] + } + } + }, + "undp-framework-alignment": { + "title": "Alignement", + "items": { + "FA-01": { + "title": "Devoir de protection de l'État", + "questions": [ + "Pilier I des UNGPs — Existe-t-il une connaissance des obligations de l'État dans les juridictions de déploiement ?" + ] + }, + "FA-02": { + "title": "Responsabilité des entreprises", + "questions": [ + "Pilier II des UNGPs — L'organisation a-t-elle mené une diligence raisonnable en matière de droits de l'homme tout au long du cycle de vie de l'IA ?" + ] + }, + "FA-03": { + "title": "Accès aux voies de recours", + "questions": [ + "Pilier III des UNGPs — Des mécanismes de réclamation efficaces sont-ils en place pour les personnes affectées ?" + ] + }, + "FA-04": { + "title": "Croissance inclusive", + "questions": [ + "OECD — Le système d'IA profite-t-il largement à la société et n'exacerbe-t-il pas les inégalités ?" + ] + }, + "FA-05": { + "title": "Valeurs centrées sur l'humain", + "questions": [ + "OECD — Une évaluation de la discrimination potentielle et des résultats inéquitables a-t-elle été réalisée ?" + ] + }, + "FA-06": { + "title": "Transparence et explicabilité", + "questions": [ + "OECD — Existe-t-il une documentation sur le fonctionnement de l'IA, ses limitations et son processus décisionnel ?" + ] + }, + "FA-07": { + "title": "Robustesse et sécurité", + "questions": [ + "OECD — Les modes de défaillance, les vulnérabilités de sécurité et la fiabilité ont-ils été évalués ?" + ] + }, + "FA-08": { + "title": "Responsabilité", + "questions": [ + "OECD — Des responsabilités claires et des mécanismes de surveillance ont-ils été établis ?" + ] + }, + "FA-09": { + "title": "Classification des risques du règlement IA de l'UE", + "questions": [ + "La classification des risques du système d'IA a-t-elle été déterminée (risque inacceptable / élevé / limité / minimal) ? (CRITIQUE)" + ] + }, + "FA-10": { + "title": "Évaluation de l'impact sur les droits fondamentaux", + "questions": [ + "Si haut risque : une évaluation de l'impact sur les droits fondamentaux (FRIA) a-t-elle été réalisée conformément à l'Article 27 ?" + ] + }, + "FA-11": { + "title": "Gouvernance des données", + "questions": [ + "Des mesures appropriées de gouvernance des données sont-elles en place ?" + ] + }, + "FA-12": { + "title": "Obligations de transparence", + "questions": [ + "Les obligations de transparence ont-elles été respectées (les utilisateurs sont-ils informés qu'ils interagissent avec une IA le cas échéant) ?" + ] + }, + "FA-13": { + "title": "Exigences de surveillance humaine", + "questions": [ + "Les exigences de surveillance humaine ont-elles été établies et documentées ?" + ] + }, + "FA-14": { + "title": "Documentation technique", + "questions": [ + "La documentation technique est-elle tenue à jour conformément aux exigences ?" + ] + }, + "FA-15": { + "title": "Enregistrement dans la base de données de l'UE", + "questions": [ + "L'enregistrement dans la base de données de l'UE a-t-il été effectué (le cas échéant) ?" + ] + }, + "FA-16": { + "title": "Évaluation du Conseil de l'Europe", + "questions": [ + "Le système d'IA a-t-il été évalué pour son impact sur les droits de l'homme, la démocratie et l'état de droit ?" + ] + }, + "FA-17": { + "title": "Conformité à la Convention", + "questions": [ + "Le système est-il conforme à l'accent mis par la Convention du Conseil de l'Europe sur les droits de l'homme, les principes démocratiques et l'état de droit ?" + ] + } + } + } + } } } diff --git a/frontend/src/locales/fr/pages.json b/frontend/src/locales/fr/pages.json index 0a79c27..91c6442 100644 --- a/frontend/src/locales/fr/pages.json +++ b/frontend/src/locales/fr/pages.json @@ -103,6 +103,20 @@ }, "frameworks": { "title": "Référentiels", - "noContent": "Le contenu de ce référentiel n'a pas encore été chargé. Le questionnaire et les sections de rapports sont accessibles via les pages de classification des risques et de rapports." + "noContent": "Le contenu de ce référentiel n'a pas encore été chargé. Le questionnaire et les sections de rapports sont accessibles via les pages de classification des risques et de rapports.", + "deleteFramework": "Supprimer le référentiel", + "deleteFrameworkConfirm": "Êtes-vous sûr de vouloir supprimer « {{name}} » ? Tous les documents et définitions associés seront supprimés. Vous pourrez le réajouter ultérieurement.", + "addFrameworkTitle": "Ajouter un référentiel", + "addFrameworkEmpty": "Tous les référentiels disponibles ont déjà été ajoutés.", + "names": { + "EU AI Act": "Loi européenne sur l'IA", + "UNDP Human Rights Assessment": "Évaluation des droits de l'homme du PNUD", + "Environmental Impact Framework": "Cadre d'impact environnemental" + }, + "descriptions": { + "EU AI Act": "La loi européenne sur l'intelligence artificielle établit un cadre réglementaire complet pour les systèmes d'IA basé sur la classification des risques. Elle impose des évaluations de conformité, des obligations de transparence et des exigences de surveillance humaine pour les systèmes d'IA à haut risque.", + "UNDP Human Rights Assessment": "La boîte à outils d'évaluation de l'impact de l'IA sur les droits de l'homme du PNUD fournit une méthodologie structurée pour évaluer les systèmes d'IA par rapport aux normes internationales des droits de l'homme. Elle guide les organisations à travers l'engagement des parties prenantes, l'analyse des risques fondée sur les droits et le suivi continu pour garantir que les déploiements d'IA respectent la dignité, l'égalité et les principes de non-discrimination.", + "Environmental Impact Framework": "Le cadre d'impact environnemental pour les systèmes d'IA fournit une approche structurée pour mesurer, rendre compte et réduire l'empreinte environnementale du développement et du déploiement de l'IA. Il couvre la consommation d'énergie, les émissions de carbone, le cycle de vie du matériel et la durabilité des centres de données pour promouvoir des pratiques d'IA responsables et respectueuses de l'environnement." + } } } diff --git a/frontend/src/pages/frameworks.tsx b/frontend/src/pages/frameworks.tsx index 3504f40..de388ac 100644 --- a/frontend/src/pages/frameworks.tsx +++ b/frontend/src/pages/frameworks.tsx @@ -1,25 +1,53 @@ -import { useEffect, useState } from 'react'; +import { useCallback, useEffect, useState } from 'react'; import { useTranslation } from 'react-i18next'; -import { Plus, Scale } from 'lucide-react'; +import { Plus, Scale, Trash2 } from 'lucide-react'; import Markdown from 'react-markdown'; import { Badge } from '@/components/ui/badge'; import { Button } from '@/components/ui/button'; import { Card, CardDescription, CardHeader, CardTitle } from '@/components/ui/card'; -import { Dialog, DialogContent, DialogHeader, DialogTitle } from '@/components/ui/dialog'; +import { + Dialog, + DialogContent, + DialogDescription, + DialogFooter, + DialogHeader, + DialogTitle, +} from '@/components/ui/dialog'; import { ScrollArea } from '@/components/ui/scroll-area'; import { PageHeader } from '@/components/page-header'; import { api, type Framework } from '@/lib/api'; +interface AvailableFramework { + name: string; + description: string; + category: string; +} + const STATUS_VARIANT: Record = { active: 'default', draft: 'secondary', inactive: 'outline', }; +const PROTECTED_FRAMEWORKS = new Set(['EU AI Act']); + +function useFwT() { + const { t } = useTranslation('pages'); + return { + name: (englishName: string) => t(`frameworks.names.${englishName}`, englishName), + desc: (englishName: string, fallback: string) => + t(`frameworks.descriptions.${englishName}`, fallback), + }; +} + export function FrameworksPage() { const { t } = useTranslation(['pages', 'common']); + const fwT = useFwT(); const [frameworks, setFrameworks] = useState([]); const [selected, setSelected] = useState(null); + const [deleteTarget, setDeleteTarget] = useState(null); + const [addOpen, setAddOpen] = useState(false); + const [available, setAvailable] = useState([]); useEffect(() => { api @@ -28,6 +56,42 @@ export function FrameworksPage() { .catch(() => {}); }, []); + const fetchAvailable = useCallback(() => { + api + .get('/frameworks/available') + .then(setAvailable) + .catch(() => {}); + }, []); + + const handleDelete = useCallback(async () => { + if (!deleteTarget) return; + try { + await api.delete(`/frameworks/${deleteTarget.id}`); + setFrameworks((prev) => prev.filter((fw) => fw.id !== deleteTarget.id)); + window.dispatchEvent(new Event('frameworks-changed')); + } catch { + /* deletion failed */ + } + setDeleteTarget(null); + }, [deleteTarget]); + + const handleAdd = useCallback(async (name: string) => { + try { + const fw = await api.post('/frameworks', { name }); + setFrameworks((prev) => [...prev, fw]); + setAvailable((prev) => prev.filter((a) => a.name !== name)); + setAddOpen(false); + window.dispatchEvent(new Event('frameworks-changed')); + } catch { + /* add failed */ + } + }, []); + + const handleAddOpen = useCallback(() => { + fetchAvailable(); + setAddOpen(true); + }, [fetchAvailable]); + return (
@@ -35,7 +99,7 @@ export function FrameworksPage() {
- @@ -58,12 +122,27 @@ export function FrameworksPage() {
- {fw.name} - {fw.description} + {fwT.name(fw.name)} + + {fwT.desc(fw.name, fw.description)} +
{t(`common:status.${fw.status}`)} + {!PROTECTED_FRAMEWORKS.has(fw.name) && ( + + )} ))} @@ -73,6 +152,7 @@ export function FrameworksPage() {
+ {/* Framework detail dialog */} setSelected(null)}> {selected && @@ -84,7 +164,7 @@ export function FrameworksPage() { <> - {selected.name} + {fwT.name(selected.name)} {t(`common:status.${selected.status}`)} @@ -97,7 +177,9 @@ export function FrameworksPage() { -

{selected.description}

+

+ {fwT.desc(selected.name, selected.description)} +

{selected.content ? (
{selected.content} @@ -113,6 +195,61 @@ export function FrameworksPage() { })()}
+ + {/* Delete confirmation dialog */} + setDeleteTarget(null)}> + + + {t('frameworks.deleteFramework')} + + {t('frameworks.deleteFrameworkConfirm', { + name: deleteTarget ? fwT.name(deleteTarget.name) : '', + })} + + + + + + + + + + {/* Add framework dialog */} + + + + {t('frameworks.addFrameworkTitle')} + + {available.length > 0 ? ( +
+ {available.map((fw) => ( + + +
+ {fwT.name(fw.name)} + + {fwT.desc(fw.name, fw.description)} + +
+ + + + ))} +
+ ) : ( +

+ {t('frameworks.addFrameworkEmpty')} +

+ )} + +
); } diff --git a/frontend/src/pages/reporting.tsx b/frontend/src/pages/reporting.tsx index f0f9d68..44e86af 100644 --- a/frontend/src/pages/reporting.tsx +++ b/frontend/src/pages/reporting.tsx @@ -133,6 +133,11 @@ export function ReportingPage() { [currentFramework, frameworkChecklists], ); + const fwName = currentFramework + ? t(`frameworks.names.${currentFramework.name}`, currentFramework.name) + : ''; + const pageTitle = currentFramework ? `${t('reporting.title')} > ${fwName}` : t('reporting.title'); + const handleExport = useCallback(async () => { if (!currentFramework || !currentProject) return; setIsExporting(true); @@ -171,7 +176,7 @@ export function ReportingPage() { intendedPurpose: currentProject.intended_purpose, intendedUsers: currentProject.intended_users, deploymentContext: currentProject.deployment_context, - frameworkName: currentFramework.name, + frameworkName: fwName, checklist, comments, validations, @@ -181,19 +186,22 @@ export function ReportingPage() { } finally { setIsExporting(false); } - }, [currentFramework, currentProject, checklist, comments, validations, t, i18n.language]); - - const pageTitle = currentFramework - ? `${t('reporting.title')} > ${currentFramework.name}` - : t('reporting.title'); + }, [ + currentFramework, + currentProject, + fwName, + checklist, + comments, + validations, + t, + i18n.language, + ]); return (
{currentFramework && ( - + )}