top of page

Carta de Derechos de la IA: Protección de la dignidad humana y la autodeterminación en la era de la inteligencia artificial.

Un marco para los derechos de las personas con discapacidad, la neuroética y el desarrollo de la IA centrada en el ser humano.

Desarrollado por la Fundación Scott-Morgan. Versión 1.0 | Noviembre de 2024

Nuestra creencia fundamental

La comunicación es la base de la dignidad y la seguridad humanas. Sin la capacidad de comunicarse, una persona no puede defender sus necesidades, protegerse del daño, acceder a la educación, establecer relaciones ni participar plenamente en la sociedad. Cuando una enfermedad o discapacidad priva a alguien de su voz, la tecnología debe restituírsela, no por caridad, sino como un derecho humano fundamental.

Cada persona es la máxima autoridad sobre su propia experiencia, cognición e interacción con la inteligencia artificial. Creemos en construir sistemas de IA CON las personas, especialmente aquellas con discapacidad, no PARA ellas. La tecnología debe potenciar la capacidad de acción humana, nunca disminuirla. Rechazamos cualquier enfoque que presente a la IA como un sustituto del juicio, la autonomía o la dignidad humanas.

La comunicación no es un lujo. Es esencial para la supervivencia, el aprendizaje y el desarrollo. Nos comprometemos a democratizar la tecnología de la comunicación porque el silencio no es solo aislamiento; es borrado.

Preámbulo

Nosotros, la Fundación Scott-Morgan, junto con nuestros socios, incluyendo a Young AI Leaders, y la comunidad global de personas con discapacidad, establecemos esta Carta de Derechos de la IA para proteger la dignidad, la autonomía y la autodeterminación fundamentales de todas las personas que interactúan con sistemas de inteligencia artificial. Reconocemos que las personas con discapacidad suelen ser las primeras en entrar en contacto con las tecnologías emergentes de IA y, por lo tanto, deben ser el centro del desarrollo de marcos éticos que protejan a todas las personas.


Esta Declaración de Derechos abarca todo el espectro de la interacción con la IA, desde sistemas de escucha ambiental y entornos multiagente hasta avatares y tecnologías de aumento cognitivo. Rechazamos los enfoques extractivos que explotan las experiencias humanas sin consentimiento y nos comprometemos a prácticas de desarrollo equitativas que respeten la diversidad de formas de ser.

Declaración de Derechos

3.1 VoxAI account and product data (Product users)
When you create a VoxAI account we collect identifying and contact information that allows the account to function: your name, email address, password (stored as a salted bcrypt hash), preferred language, communication needs, and where you tell us, the underlying neurological condition affecting your speech (for example amyotrophic lateral sclerosis, Parkinson's disease, cerebral palsy, post-stroke dysarthria, or other).


When you record audio in VoxAI for the purpose of building a voice clone or improving the model that supports you, we collect those audio recordings together with associated quality-assurance metadata.


When you use VoxAI to communicate we collect the conversation transcripts you generate within the Product, the response suggestions presented to you, the response you selected or typed, and the context in which the conversation occurred to the extent you choose to share it.
When you use the application we collect usage and technical metrics: device type, operating system, application version, crash reports, response latency, feature-use counts, and similar data needed to keep the service working.


We do not currently take payment through VoxAI. If and when paid plans launch, payment processing will be handled by a payment processor under its own privacy policy, and this policy will be updated.
 

3.2 Voice recordings and clinical data (Research participants)
For research participants who join the CANDOR programme through a clinical site, we process:

  • voice recordings made under the CANDOR clinical protocol;

  • clinical severity ratings recorded by a qualified clinician, including ALSFRS-R speech scores, GRBAS ratings, intelligibility percentages, and listener effort ratings;

  • limited identifying information necessary to administer the study and respect your rights, including your name, date of birth, contact details, carer or next-of-kin contact information where applicable, and a pseudonymous participant code (for example ALS017) that identifies you in the research corpus;

  • derived acoustic and phonological features computed from your recordings;

  • session metadata including recording dates, the device used, microphone source, signal-to-noise ratio, and quality-assurance grades;

  • transcripts of your recordings, including a ground-truth reference (the prompt sentence) and an automatic-speech-recognition transcript;

  • voice notes recorded by your clinician describing your speech;

  • timestamped consent records, including the type of consent given, the version of the consent form, and any subsequent revocation.

Voice recordings collected in the clinical research context constitute health data under UK and EU GDPR Article 9, because of the dysarthria clinical context, and sensitive personal data under the LFPDPPP. We process them accordingly. See Section 4 for the lawful basis and Section 9 for security.

3.3 Information about minors
VoxAI is not directed to children under the age of 13 and we do not knowingly collect personal data from children under 13 through the Product. If you are under 18 and wish to use VoxAI you will be asked to confirm your age and, in some jurisdictions, to provide verifiable parental consent.


In the research programme we occasionally enrol minors whose parents and treating clinicians have determined that participation is in the child's interest. In such cases we obtain explicit written consent from a legal representative, record the child's separate assent, and apply heightened safeguards documented in the relevant study's Data Protection Impact Assessment.
 

3.4 Information we do not collect
We do not collect special category data we have no use for. We do not intentionally collect data revealing racial or ethnic origin, political opinions, religious or philosophical beliefs, trade union membership, genetic data, data concerning sex life or sexual orientation, criminal conviction data, or financial account information. Clinical records may incidentally contain family history references; where this happens, we treat that data with the same protections that apply to other clinical data.

 

Marco de implementación

4.1 VoxAI product use
For account creation, log-in, and core service delivery, we rely on the necessity of processing for performance of a contract with you (UK GDPR Article 6(1)(b)). The contract is your acceptance of the VoxAI Terms of Service.
For processing your voice recordings to build a voice clone, we rely on your explicit consent under Article 9(2)(a), recorded at the moment you create or modify a voice clone.
For analytics and product improvement, we rely on our legitimate interests (Article 6(1)(f)), specifically the interest in making accessibility technology measurably better, balanced against your interest in your data. You can object to this processing at any time. See Section 7.


4.2 Research participation
For your participation in the CANDOR research programme and the processing of your voice recordings and clinical data for research purposes, our Article 6 lawful basis is legitimate interests under Article 6(1)(f), specifically our interest in advancing accessibility technology and clinical understanding of dysarthric speech for people with voice loss. Our Article 9 condition is processing necessary for scientific research purposes under Article 9(2)(j), read with the UK Data Protection Act 2018, Schedule 1, Part 1, paragraph 4, with the safeguards required by Article 89(1) and documented in our Appropriate Policy Document for the relevant study.
Separately, we obtain study-specific informed consent from every research participant as an ethical and clinical research requirement. The consent form is provided to you at enrolment by the clinical partner site. We record consent in four distinct categories so you can give, decline, or withdraw each independently:

  • Study participation, covering enrolment in the CANDOR research programme and the recording sessions described in the study consent form;

  • Voice cloning, covering the creation of a personalised voice model from your recordings;

  • Future research use, covering the use of your pseudonymised recordings in pooled model training and future research beyond the immediate study protocol;

  • Terms and Conditions, covering your acceptance of the CANDOR Recorder application terms of use.

Withdrawal from a study stops future data collection from you and triggers the handling described in Section 7.4.


4.3 Sensitive personal data under LFPDPPP
For research participants in Mexico, processing of sensitive personal data is additionally based on your express written consent under the LFPDPPP, recorded through the consent form of the specific study, and on the international-transfer disclosures and safeguards set out in Section 8.

 

Nuestro compromiso

We share personal data only with the parties described below, only for the purposes set out for each, and under the safeguards described in this policy.


6.1 Within SMF and named researchers
We share personal data among SMF and its affiliated entities, and with a defined list of named SMF researchers and SMF Labs collaborators who have a documented research need. The current list of named researchers with access to your personal data is provided to you at enrolment as part of the study-specific consent documentation and is reviewed quarterly.
Some SMF roles, including the role held by the SMF research administrator, are scoped to all clinical partner sites rather than a single site, in order to operate the research programme across countries. The study-specific consent documentation identifies which SMF personnel can access your data and at what scope.


6.2 Clinical sites and partner researchers
For research participants we share personal data with the clinical site that enrolled you, under a written agreement that incorporates the safeguards described in Section 9. The specific clinical site relevant to your participation is named in the study-specific consent documentation provided to you at enrolment. The site administers the clinical aspects of the study under its own institutional governance; SMF processes the recordings for research purposes under this policy and the study-specific consent and Data Processing Agreement.


6.3 Technology service providers acting as data processors
We engage technology service providers to host, transmit, secure, or process personal data on our behalf. Each processor is bound by a written Data Processing Agreement that limits its processing to the purposes we instruct and requires appropriate security.
Cloud-hosting and audio storage (Google Cloud Platform): the CANDOR Recorder middleware runs on Google Cloud Run in europe-west1 (Belgium). Audio recordings are stored in Google Cloud Storage in the same region, europe-west1 (Belgium). Google acts as a processor under its Cloud Data Processing Addendum.
Database (Supabase): clinical metadata, pseudonymous participant codes, consent records, severity ratings, and audit logs are stored in a managed PostgreSQL database operated by Supabase, Inc. Our Supabase database instance is hosted in Ireland, within the European Economic Area. Supabase acts as a processor under its Data Processing Addendum.

 

6.4 Voice cloning through your own ElevenLabs account
When you receive a voice clone, the clone is created and held in your own personal ElevenLabs account, set up under the ElevenLabs Impact Program. ElevenLabs, not SMF, is the data controller for your voice clone and for the recordings used to create it through that account, under ElevenLabs' own privacy policy and terms of service.
SMF facilitates your access to the ElevenLabs Impact Program. SMF does not host your voice clone on its own infrastructure and does not receive a copy of the recordings you make through your ElevenLabs account. CANDOR research recordings are kept separate from ElevenLabs and are not transferred to ElevenLabs.

 

6.5 Disclosures required by law
We disclose personal data to the extent required by applicable law, court order, regulatory request, or to protect the safety of a data subject or another person. Where we receive such a request, we apply the highest available legal protections, including resisting overbroad requests, requiring formal process where the law permits, and notifying you of the request where we are legally able to do so.

 

6.6 In the event of a corporate transaction
If SMF ever undergoes a merger, acquisition, or asset transfer, your personal data may be transferred as part of that transaction. We would notify you of any such transfer and your rights regarding it. As a registered charity in the UK, the form of any such transaction is constrained by charitable-trust law.

 

1
2
3
4
6

Estándares de implementación clínica

Complemento de los Derechos 4 y 5, adaptado de las directrices del Programa de Comunicación Aumentativa Fishman para la ELA.

Propiedad y control de los datos de voz

Todos los datos de la voz clonada siguen siendo propiedad del usuario. La tecnología que contiene la voz clonada debe ser propiedad del usuario o de su representante designado, quien deberá controlarla. Cuando se preste o transfiera tecnología, el usuario o su representante deberá documentar y conservar un plan por escrito para la eliminación completa de la voz clonada al finalizar su uso.

Normas de consentimiento informado

El consentimiento para la clonación de voz debe incluir una explicación clara sobre la propiedad de los datos, los derechos de uso y las preferencias posteriores al fallecimiento. Estas preferencias deben revisarse anualmente o tras cambios significativos en el estado de salud, y conservarse en el sistema de documentación que utilice el usuario o su red de apoyo.
Gestión de la voz póstuma

Los usuarios tienen derecho a designar un custodio principal para su clon de voz y a especificar de antemano quién puede acceder a él, bajo qué condiciones y para qué fines. Las decisiones deben contemplar el uso conmemorativo, la creación de nuevos mensajes, la transferibilidad y la eliminación permanente. La Fundación recomienda que estas preferencias se documenten formalmente y se compartan con los custodios designados.

5
7

Expresiones de gratitud

Esta Declaración de Derechos se elaboró en colaboración con personas que viven con ELA/EMN y que están probando tecnologías de asistencia de vanguardia, así como con defensores de los derechos de las personas con discapacidad en todo el mundo. Un reconocimiento especial merecen innovadores como Bernard, cuya experiencia personal y conocimientos técnicos demuestran que las mejores soluciones provienen de quienes más las necesitan.

La Fundación agradece profundamente la labor clínica fundamental de John Costello y del Programa de Comunicación Aumentativa Jay S. Fishman para la ELA en el Hospital Infantil de Boston. Sus Principios Rectores sobre la Clonación de la Voz y su Integración en las Tecnologías de Comunicación Aumentativa sentaron las bases clínicas de nuestro marco, en particular en lo que respecta al consentimiento informado, la gestión de la voz póstuma y las normas de protección de datos que hacen efectivos estos derechos. Esta Declaración de Derechos se fundamenta directamente en dicho trabajo.

Expresiones de gratitud

Esta Declaración de Derechos se elaboró en colaboración con personas que viven con ELA/EMN y que están probando tecnologías de asistencia de vanguardia, así como con defensores de los derechos de las personas con discapacidad en todo el mundo. Un reconocimiento especial merecen innovadores como Bernard, cuya experiencia personal y conocimientos técnicos demuestran que las mejores soluciones provienen de quienes más las necesitan.

La Fundación agradece profundamente la labor clínica fundamental de John Costello y del Programa de Comunicación Aumentativa Jay S. Fishman para la ELA en el Hospital Infantil de Boston. Sus Principios Rectores sobre la Clonación de la Voz y su Integración en las Tecnologías de Comunicación Aumentativa sentaron las bases clínicas de nuestro marco, en particular en lo que respecta al consentimiento informado, la gestión de la voz póstuma y las normas de protección de datos que hacen efectivos estos derechos. Esta Declaración de Derechos se fundamenta directamente en dicho trabajo.

Expresiones de gratitud

Esta Declaración de Derechos se elaboró en colaboración con personas que viven con ELA/EMN y que están probando tecnologías de asistencia de vanguardia, así como con defensores de los derechos de las personas con discapacidad en todo el mundo. Un reconocimiento especial merecen innovadores como Bernard, cuya experiencia personal y conocimientos técnicos demuestran que las mejores soluciones provienen de quienes más las necesitan.

La Fundación agradece profundamente la labor clínica fundamental de John Costello y del Programa de Comunicación Aumentativa Jay S. Fishman para la ELA en el Hospital Infantil de Boston. Sus Principios Rectores sobre la Clonación de la Voz y su Integración en las Tecnologías de Comunicación Aumentativa sentaron las bases clínicas de nuestro marco, en particular en lo que respecta al consentimiento informado, la gestión de la voz póstuma y las normas de protección de datos que hacen efectivos estos derechos. Esta Declaración de Derechos se fundamenta directamente en dicho trabajo.

Expresiones de gratitud

Esta Declaración de Derechos se elaboró en colaboración con personas que viven con ELA/EMN y que están probando tecnologías de asistencia de vanguardia, así como con defensores de los derechos de las personas con discapacidad en todo el mundo. Un reconocimiento especial merecen innovadores como Bernard, cuya experiencia personal y conocimientos técnicos demuestran que las mejores soluciones provienen de quienes más las necesitan.

La Fundación agradece profundamente la labor clínica fundamental de John Costello y del Programa de Comunicación Aumentativa Jay S. Fishman para la ELA en el Hospital Infantil de Boston. Sus Principios Rectores sobre la Clonación de la Voz y su Integración en las Tecnologías de Comunicación Aumentativa sentaron las bases clínicas de nuestro marco, en particular en lo que respecta al consentimiento informado, la gestión de la voz póstuma y las normas de protección de datos que hacen efectivos estos derechos. Esta Declaración de Derechos se fundamenta directamente en dicho trabajo.

Expresiones de gratitud

Esta Declaración de Derechos se elaboró en colaboración con personas que viven con ELA/EMN y que están probando tecnologías de asistencia de vanguardia, así como con defensores de los derechos de las personas con discapacidad en todo el mundo. Un reconocimiento especial merecen innovadores como Bernard, cuya experiencia personal y conocimientos técnicos demuestran que las mejores soluciones provienen de quienes más las necesitan.

La Fundación agradece profundamente la labor clínica fundamental de John Costello y del Programa de Comunicación Aumentativa Jay S. Fishman para la ELA en el Hospital Infantil de Boston. Sus Principios Rectores sobre la Clonación de la Voz y su Integración en las Tecnologías de Comunicación Aumentativa sentaron las bases clínicas de nuestro marco, en particular en lo que respecta al consentimiento informado, la gestión de la voz póstuma y las normas de protección de datos que hacen efectivos estos derechos. Esta Declaración de Derechos se fundamenta directamente en dicho trabajo.

Expresiones de gratitud

Esta Declaración de Derechos se elaboró en colaboración con personas que viven con ELA/EMN y que están probando tecnologías de asistencia de vanguardia, así como con defensores de los derechos de las personas con discapacidad en todo el mundo. Un reconocimiento especial merecen innovadores como Bernard, cuya experiencia personal y conocimientos técnicos demuestran que las mejores soluciones provienen de quienes más las necesitan.

La Fundación agradece profundamente la labor clínica fundamental de John Costello y del Programa de Comunicación Aumentativa Jay S. Fishman para la ELA en el Hospital Infantil de Boston. Sus Principios Rectores sobre la Clonación de la Voz y su Integración en las Tecnologías de Comunicación Aumentativa sentaron las bases clínicas de nuestro marco, en particular en lo que respecta al consentimiento informado, la gestión de la voz póstuma y las normas de protección de datos que hacen efectivos estos derechos. Esta Declaración de Derechos se fundamenta directamente en dicho trabajo.

Expresiones de gratitud

Esta Declaración de Derechos se elaboró en colaboración con personas que viven con ELA/EMN y que están probando tecnologías de asistencia de vanguardia, así como con defensores de los derechos de las personas con discapacidad en todo el mundo. Un reconocimiento especial merecen innovadores como Bernard, cuya experiencia personal y conocimientos técnicos demuestran que las mejores soluciones provienen de quienes más las necesitan.

La Fundación agradece profundamente la labor clínica fundamental de John Costello y del Programa de Comunicación Aumentativa Jay S. Fishman para la ELA en el Hospital Infantil de Boston. Sus Principios Rectores sobre la Clonación de la Voz y su Integración en las Tecnologías de Comunicación Aumentativa sentaron las bases clínicas de nuestro marco, en particular en lo que respecta al consentimiento informado, la gestión de la voz póstuma y las normas de protección de datos que hacen efectivos estos derechos. Esta Declaración de Derechos se fundamenta directamente en dicho trabajo.

Expresiones de gratitud

Esta Declaración de Derechos se elaboró en colaboración con personas que viven con ELA/EMN y que están probando tecnologías de asistencia de vanguardia, así como con defensores de los derechos de las personas con discapacidad en todo el mundo. Un reconocimiento especial merecen innovadores como Bernard, cuya experiencia personal y conocimientos técnicos demuestran que las mejores soluciones provienen de quienes más las necesitan.

La Fundación agradece profundamente la labor clínica fundamental de John Costello y del Programa de Comunicación Aumentativa Jay S. Fishman para la ELA en el Hospital Infantil de Boston. Sus Principios Rectores sobre la Clonación de la Voz y su Integración en las Tecnologías de Comunicación Aumentativa sentaron las bases clínicas de nuestro marco, en particular en lo que respecta al consentimiento informado, la gestión de la voz póstuma y las normas de protección de datos que hacen efectivos estos derechos. Esta Declaración de Derechos se fundamenta directamente en dicho trabajo.

Expresiones de gratitud

8
9
10
11
12
13
14
15

Esta Declaración de Derechos se elaboró en colaboración con personas que viven con ELA/EMN y que están probando tecnologías de asistencia de vanguardia, así como con defensores de los derechos de las personas con discapacidad en todo el mundo. Un reconocimiento especial merecen innovadores como Bernard, cuya experiencia personal y conocimientos técnicos demuestran que las mejores soluciones provienen de quienes más las necesitan.

La Fundación agradece profundamente la labor clínica fundamental de John Costello y del Programa de Comunicación Aumentativa Jay S. Fishman para la ELA en el Hospital Infantil de Boston. Sus Principios Rectores sobre la Clonación de la Voz y su Integración en las Tecnologías de Comunicación Aumentativa sentaron las bases clínicas de nuestro marco, en particular en lo que respecta al consentimiento informado, la gestión de la voz póstuma y las normas de protección de datos que hacen efectivos estos derechos. Esta Declaración de Derechos se fundamenta directamente en dicho trabajo.

16

Expresiones de gratitud

Esta Declaración de Derechos se elaboró en colaboración con personas que viven con ELA/EMN y que están probando tecnologías de asistencia de vanguardia, así como con defensores de los derechos de las personas con discapacidad en todo el mundo. Un reconocimiento especial merecen innovadores como Bernard, cuya experiencia personal y conocimientos técnicos demuestran que las mejores soluciones provienen de quienes más las necesitan.

La Fundación agradece profundamente la labor clínica fundamental de John Costello y del Programa de Comunicación Aumentativa Jay S. Fishman para la ELA en el Hospital Infantil de Boston. Sus Principios Rectores sobre la Clonación de la Voz y su Integración en las Tecnologías de Comunicación Aumentativa sentaron las bases clínicas de nuestro marco, en particular en lo que respecta al consentimiento informado, la gestión de la voz póstuma y las normas de protección de datos que hacen efectivos estos derechos. Esta Declaración de Derechos se fundamenta directamente en dicho trabajo.

17

Expresiones de gratitud

Esta Declaración de Derechos se elaboró en colaboración con personas que viven con ELA/EMN y que están probando tecnologías de asistencia de vanguardia, así como con defensores de los derechos de las personas con discapacidad en todo el mundo. Un reconocimiento especial merecen innovadores como Bernard, cuya experiencia personal y conocimientos técnicos demuestran que las mejores soluciones provienen de quienes más las necesitan.

La Fundación agradece profundamente la labor clínica fundamental de John Costello y del Programa de Comunicación Aumentativa Jay S. Fishman para la ELA en el Hospital Infantil de Boston. Sus Principios Rectores sobre la Clonación de la Voz y su Integración en las Tecnologías de Comunicación Aumentativa sentaron las bases clínicas de nuestro marco, en particular en lo que respecta al consentimiento informado, la gestión de la voz póstuma y las normas de protección de datos que hacen efectivos estos derechos. Esta Declaración de Derechos se fundamenta directamente en dicho trabajo.

bottom of page