Carta de Derechos de la IA: Protección de la dignidad humana y la autodeterminación en la era de la inteligencia artificial.
Un marco para los derechos de las personas con discapacidad, la neuroética y el desarrollo de la IA centrada en el ser humano.
Desarrollado por la Fundación Scott-Morgan. Versión 1.0 | Noviembre de 2024
Secciones:
Nuestra creencia fundamental | Preámbulo | Declaración de derechos | Marco de implementación | Estándares de implementación clÃnica | Nuestro compromiso | Agradecimientos
Nuestra creencia fundamental
La comunicación es la base de la dignidad y la seguridad humanas. Sin la capacidad de comunicarse, una persona no puede defender sus necesidades, protegerse del daño, acceder a la educación, establecer relaciones ni participar plenamente en la sociedad. Cuando una enfermedad o discapacidad priva a alguien de su voz, la tecnologÃa debe restituÃrsela, no por caridad, sino como un derecho humano fundamental.
Cada persona es la máxima autoridad sobre su propia experiencia, cognición e interacción con la inteligencia artificial. Creemos en construir sistemas de IA CON las personas, especialmente aquellas con discapacidad, no PARA ellas. La tecnologÃa debe potenciar la capacidad de acción humana, nunca disminuirla. Rechazamos cualquier enfoque que presente a la IA como un sustituto del juicio, la autonomÃa o la dignidad humanas.
La comunicación no es un lujo. Es esencial para la supervivencia, el aprendizaje y el desarrollo. Nos comprometemos a democratizar la tecnologÃa de la comunicación porque el silencio no es solo aislamiento; es borrado.
Preámbulo
Nosotros, la Fundación Scott-Morgan, junto con nuestros socios, incluyendo a Young AI Leaders, y la comunidad global de personas con discapacidad, establecemos esta Carta de Derechos de la IA para proteger la dignidad, la autonomÃa y la autodeterminación fundamentales de todas las personas que interactúan con sistemas de inteligencia artificial. Reconocemos que las personas con discapacidad suelen ser las primeras en entrar en contacto con las tecnologÃas emergentes de IA y, por lo tanto, deben ser el centro del desarrollo de marcos éticos que protejan a todas las personas.
Esta Declaración de Derechos abarca todo el espectro de la interacción con la IA, desde sistemas de escucha ambiental y entornos multiagente hasta avatares y tecnologÃas de aumento cognitivo. Rechazamos los enfoques extractivos que explotan las experiencias humanas sin consentimiento y nos comprometemos a prácticas de desarrollo equitativas que respeten la diversidad de formas de ser.
Declaración de Derechos
1. Right to Informed Partnership and Education
Every individual has the right to understand and control their AI experience:
-
Comprehensive education about AI capabilities and limitations before implementation
-
Clear explanation of how multi-agent systems work and interact
-
Right to trial periods and gradual implementation
-
Understanding of data collection and processing in ambient systems
-
Education about voice synthesis and avatar creation processes
-
Right to technical support and ongoing training
-
Clear documentation of system functions and controls
-
Protection against overwhelming or confusing technology deployment
2. Right to Equitable Development and Co-Creation
AI development must center those most impacted:
-
Meaningful participation of disabled individuals in all stages of AI development
-
Recognition of lived experience as essential expertise
-
Right to leadership roles in technology design decisions
-
Protection against extractive research practices
-
Fair compensation for contributions to AI development
-
Right to refuse participation in AI research or testing
-
Access to AI development resources and training
-
Protection against tokenistic inclusion
3. Right to Multi-Agent System Control
In complex AI environments, human control remains paramount:
-
Transparency in multi-agent decision-making processes
-
Right to understand which agents are active and their functions
-
Ability to enable, disable, or modify individual agents
-
Control over agent-to-agent communication
-
Right to human oversight of agent decisions
-
Protection against agent systems making irreversible decisions
-
Right to audit agent behavior and decision logs
-
Control over ambient data collection and processing
4. Right to Authentic Self-Expression
AI must support, never supplant, human expression:
-
Control over how AI interprets and represents emotional states
-
Right to maintain authentic communication patterns
-
Protection against AI "correction" of natural human variation
-
Control over AI assistance in communication and expression
-
Right to refuse AI mediation of human interaction
-
Protection of diverse communication methods and preferences
-
Right to contextual expression across different environments
5. Right to Data Justice and Privacy
Complete control over personal data and AI interaction:
-
Ownership of all data generated through AI interaction
-
Right to understand data usage in AI training and operation
-
Control over data sharing with third parties
-
Right to data portability and deletion
-
Protection against discriminatory data practices
-
Transparent data governance policies
-
Right to algorithmic auditing and explanation
-
Protection against data colonization
6. Right to Intellectual Property and Innovation
Recognition of human creativity and contribution:
-
Full ownership of innovations created with AI assistance
-
Protection against unauthorized use of personal AI training data
-
Right to fair compensation for AI model improvements
-
Control over AI-generated content using personal data
-
Protection of traditional knowledge and cultural practices
-
Right to prospectively withdraw intellectual property from AI systems
7. Right to Accessibility and Universal Design
AI must be inherently accessible:
-
Right to AI systems designed for diverse abilities from inception
-
Protection against AI that creates new barriers
-
Right to multiple interaction modalities
-
AI assistance that adapts to individual needs
-
Protection against discrimination in AI system access
-
Right to AI that supports independent living
-
Access to AI customization tools and training
8. Right to Cultural and Contextual Respect
AI must honor diverse ways of being:
-
Protection against cultural homogenization by AI systems
-
Right to AI that respects cultural values and practices
-
Protection against AI imposing external norms or values
-
Right to culturally appropriate AI interaction
-
Protection of indigenous knowledge systems
-
Right to reject AI systems that conflict with personal values
9. Right to Transparent Governance
Clear accountability in AI development and deployment:
-
Right to understand AI decision-making processes
-
Access to AI system documentation and limitations
-
Right to appeal or contest AI decisions
-
Transparent reporting of AI system failures or harms
-
Right to participate in AI governance structures
-
Protection against opaque or unaccountable AI systems
10. Legacy and Perpetual Rights
Protection extends beyond lifetime:
-
Control over posthumous use of personal AI data
-
Right to digital legacy planning
-
Protection of AI-generated content after death
-
Family/designee control over ongoing AI systems
-
Right to digital memorial or deletion choices
​
11. Right to Explicit, Informed Consent for Visual Likeness
No AI system may create, deploy, or distribute an avatar representing an identifiable person’s likeness without that person’s clear, informed consent (or lawful guardian/designee when applicable).
12. Right to Contest and Remedy
Individuals must have a fast, accessible path to contest unauthorized or harmful use of their likeness and obtain timely takedown/remediation.
​
13. Posthumous Visual Likeness Management
Individuals have the right to specify end-of-life instructions for their likeness asset: memorial use vs. deletion, whether new messages may be created posthumously, who can authorize use, and transferability.
Designated custodian / delegate: Individuals can name a custodian empowered to manage the likeness asset consistent with the person’s documented preferences.
​
14. Provenance and Disclosure
AI-generated likeness content should include clear disclosure it is synthetic and, where feasible, provenance signals (e.g., watermarking/metadata) to enable verification and accountability.
Marco de implementación
Partner Obligations
All organizations working with AI systems must:
-
Undergo regular human rights impact assessments
-
Implement participatory design processes with diverse voices including young leaders
-
Provide transparent algorithmic auditing
-
Maintain end-to-end encryption and security
-
Offer comprehensive user education and support
-
Establish clear accountability mechanisms
-
Engage in ongoing dialogue with disability communities across all age groups
Enforcement and Accountability
-
Independent oversight bodies with disability community representation
-
Regular compliance auditing by third parties
-
Public reporting of rights violations and remediation
-
Community feedback mechanisms and response protocols
-
Legal protection for rights violations
Evolution and Adaptation
This living document will evolve through:
-
Annual review with community stakeholders including Young AI Leaders
-
Responsive updates to emerging technologies
-
Integration of ongoing research and lived experience
-
Cross-cultural consultation and adaptation
-
Incorporation of legal and regulatory developments
Nuestro compromiso
We commit to building AI systems that recognize the full humanity, agency, and dignity of every person. We reject the false choice between technological advancement and human rights. Instead, we choose to build technology that amplifies human potential while respecting human autonomy.
​​
The future of AI must be written by those who will be most impacted by it. We commit to ensuring that people living with disabilities continue to lead in shaping that future.
Estándares de implementación clÃnica
Complemento de los Derechos 4 y 5, adaptado de las directrices del Programa de Comunicación Aumentativa Fishman para la ELA.
Propiedad y control de los datos de voz
Todos los datos de la voz clonada siguen siendo propiedad del usuario. La tecnologÃa que contiene la voz clonada debe ser propiedad del usuario o de su representante designado, quien deberá controlarla. Cuando se preste o transfiera tecnologÃa, el usuario o su representante deberá documentar y conservar un plan por escrito para la eliminación completa de la voz clonada al finalizar su uso.
Normas de consentimiento informado
El consentimiento para la clonación de voz debe incluir una explicación clara sobre la propiedad de los datos, los derechos de uso y las preferencias posteriores al fallecimiento. Estas preferencias deben revisarse anualmente o tras cambios significativos en el estado de salud, y conservarse en el sistema de documentación que utilice el usuario o su red de apoyo.
Gestión de la voz póstuma
Los usuarios tienen derecho a designar un custodio principal para su clon de voz y a especificar de antemano quién puede acceder a él, bajo qué condiciones y para qué fines. Las decisiones deben contemplar el uso conmemorativo, la creación de nuevos mensajes, la transferibilidad y la eliminación permanente. La Fundación recomienda que estas preferencias se documenten formalmente y se compartan con los custodios designados.
Expresiones de gratitud
Esta Declaración de Derechos se elaboró en colaboración con personas que viven con ELA/EMN y que están probando tecnologÃas de asistencia de vanguardia, asà como con defensores de los derechos de las personas con discapacidad en todo el mundo. Un reconocimiento especial merecen innovadores como Bernard, cuya experiencia personal y conocimientos técnicos demuestran que las mejores soluciones provienen de quienes más las necesitan.
La Fundación agradece profundamente la labor clÃnica fundamental de John Costello y del Programa de Comunicación Aumentativa Jay S. Fishman para la ELA en el Hospital Infantil de Boston. Sus Principios Rectores sobre la Clonación de la Voz y su Integración en las TecnologÃas de Comunicación Aumentativa sentaron las bases clÃnicas de nuestro marco, en particular en lo que respecta al consentimiento informado, la gestión de la voz póstuma y las normas de protección de datos que hacen efectivos estos derechos. Esta Declaración de Derechos se fundamenta directamente en dicho trabajo.
.png)