Accueil


Etat

Débat modification cognitives, qui décidera ?

Par ysaenger le 21 août 2023 02:58

Le samedi 19 août 2023 un débat a été organisé par l’association AFT (Association Française Transhumanisme section 67) à Strasbourg sur le sujet des modifications cognitives, c’est-à-dire une opération de modification du cerveau. En effet, quand la science évoluera pour permettre des implants de modification cérébral, la prise de décision sera potentiellement touchée, et donc le débat sur les limites doit être organisé avant. Le déroulement était :

  • Quel intérêt pour la société et l’individu ?
  • Le pouvoir cherchera-t-il à les imposer au nom de l’intérêt général ?
  • Qui décidera quoi imposer ?

Les objectifs des modifications cognitives

 Spontanément, des avantages de la modification cognitive ont été cités :

  • Au niveau comportemental : être moins violent, développer l’ouverture d’esprit, être plus consciencieux, l’extraversion, l’empathie.
  • Sur les capacités individuelles ordinaires : mieux réfléchir, mieux travailler, se repérer dans l’espace, mieux comprendre les notions abstraites.
  • Sur le dépassement de soi : vaincre la paresse et la procrastination, moduler l’appétit sexuelle, la stabilité émotionnelle, vaincre les addictions (arrêter de fumer, de jouer).

Ensuite des possibilités ont été ajouté crescendo en rapport caractère intrusif :

  • Sur les capacités cérébrales extraordinaires : l’apprentissage spontanée (tel qu’il est représenté dans le film Matrix pour l’apprentissage du kungfu), le développement massif de la culture général, de la mémoire dans toutes ses formes.
  • Sur les capacités extra-humaines : lire un texte spontanément (par mémoire photographique, en feuilletant un livre), écrire à la main parfaitement et rapidement, résister à l’ébriété.
  • Sur sa propre gestion : se sauvegarder chez soi, participer d’avantages à la vie démocratique.

Puis les points de divergences commencent à apparaitre :

  • Pour accélérer les décisions, par exemple en conduisant être capable de freiner à temps pour éviter un accident
    • L’apprentissage prend son temps, comme le Deep Learning a aussi besoin d’un apprentissage pour réduire les faux positifs et négatifs.
    • La question de jusqu’où la fonction automatique remplace la maitrise ? La limite et floue.
  • Sur la télépathie, la capacité de communiquer autrement que par la voie et une langue, la limite trouvée est le caractère non intrusif de la fonction
    • Attention à la maitrise de soi, des données diffusées
    • Méfiance sur qui gère l’implant, le traitement des données

Enfin, la divergence apparait sur des fonctions avancées :

  • Être sa propre pharmacie, permettre à l’implant de composer et diffuser des médicaments : divergence sur « La nature fait déjà le travail en homéopathie »
  • Se connecter à internet directement plutôt que de passer par un ordinateur
    • Cela ne doit être que consultatif, il faut bloquer les diffusions de données
    • Il faut impérativement ne pas risquer d’attraper des virus informatiques
    • Il faut absolument ne pas pouvoir se faire reprogrammer à distance
    • Il faut connaitre les risques et ne pas accepter ou se faire imposer
  • Se sauvegarder sur internet : touche encore à la confidentialité. Seulement accepté avant la mort.

Quels impacts et quels risques

La réflexion se porte sur ce que les modifications cognitives entrainent comme impacts en bien et en mal sur la société, avant de chercher à statuer de ce qu’il convient d’en faire

  • Sur la société, elles permettraient
    • D’être plus prudent, et donc d’avoir un impact sur la santé et la sécurité pour soi et les autres
    • D’être moins violent
  • Sur la protection individuelle
    • Aider les délinquants comme la police et comme à chacun pour se protéger
    • Crainte d’être sous surveillance, d’être des cobayes
    • Crainte sur le nombre d’opérations nécessaires à la vue du rôle des régions du cerveau. Une opération à l’aire mieux que plusieurs
  • Sur les risques technologiques
    • Gestion des technologies utilisées
    • Risques de se faire dépasser par des poids, des ondes néfastes… des choses qui nous sont aujourd’hui publiquement inconnues
    • Risques d’ordre militaire (qu’une foule soit grillé à distance par une armée) ou étatique. Il est rappelé que les états ont déjà des moyens d’influences comme les médias.
    • La police ou la justice pourrait imposer un réglage pour certains individus pour des raisons d’ordre politique, annoncés comme pour une guérison des mentalités défaillantes
  • Sur la discrimination, une discrimination cognitive pourrait apparaitre entre les greffés et non-greffés, et aggraver le clivage pauvre/riche
    • Un employeur ou un état pourrait imposer un certain réglage
    • Les personnes augmentées seraient en concurrence déloyale pour un entretien d’embauche, rien qu’avec les tests classiques des entretiens

Réflexions autours de la modifications cognitives

Pour définir qui décide, la question se tourne sur l’intérêt général. Il est très difficile à définir. Doit-on redécider à chaque fois qu’un acteur s’ajoute ? Qui est considéré comme concerné par un sujet ? Et finalement qui vote quoi ?

Pour cela il faut définir les acteurs :

  • Les clients / patients / consommateur selon le nom qu’il leurs seraient accordés, qui se verraient transformer
  • La « big tech » qui auraient la gestion des données s’ils y ont droit, et qui doivent garantir l’absence de backdoor ou autres trous de sécurités
  • Le neurochirurgien qui réalise l’opération, qui doit avoir une parfaite connaissance de son sujet pour savoir ce qui est pertinent de toucher
  • Le bureau d’étude, le fabriquant, et la maintenance qui doivent être transparent dans leurs fonctionnements
  • L’Etat, sur toutes les conséquences sociales et étatiques

Enfin vient la question du financement. Soit il y a la piste d’une création de fondation indépendante type « Mozilla », soit c’est à la sécurité sociale de prendre en charge, que ce soit de la santé publique ou une simple amélioration personnelle du fait des conséquences sociales positives engendrées. La « rentabilité » (bien qu’un service public n’a pas vocation à être rentable) se fait sur l’évolution de la population à long terme.

Convenir des contraintes et des normes à poser

Au vue des souhaits et des risques, des normes ont été fixés dans le débat.

Il y a des points de liberté individuelle

  • La réversibilité : il faut pouvoir revenir en arrière dans une modification engendrée
  • Fonctionnement digne, ainsi dit « pas dans le cul »
  • Chacun doit pouvoir se sauvegarder chez soi, éviter la centralisation
  • La modification doit rester un choix personnel : pas imposé, pas de contrôle à distance

Il y a des points de contraintes technologiques

  • Les composants et protocoles utilisés doivent être interopérables pour qu’ils puissent fonctionner entre eux, et ne pas dépendre d’un fabricant
  • Le tout doit être parfaitement connu et testé
  • Le fonctionnement doit être décentralisé. Ainsi l’échange entre plusieurs individues doit être sous une forme comparable au Peer-To-Peer, c’est-à-dire de 1 à 1.
  • Un chiffrement doit protéger les données

Tous cela implique des points de contraintes sociales. Le fonctionnement social doit être démocratique pour permettre une transparence sur ce système. Chaque chose doit être fait dans l’intérêt du peuple qui doit avoir le dernier mot sur les normes. Le système de vote doit être amélioré. Il faut pouvoir voter des propositions, d’avantages que d’élire des représentants. La possibilité de déposer et de soutenir des idées doit être assuré. Les représentants sont des maitres d’œuvres concernant les choix du peuple. La solution peut sembler à une convention citoyenne idéale : tirage au sort épaulé par des scientifiques à avis contradictoire, et les citoyens décident.

Voici la conclusion lue et acceptée en fin de débat : « Sans démocratie, pas d’amélioration cognitives, dans l’intérêt du peuple ».

Par ysaenger le 21 août 2023 02:58

Commentaires

Veuillez vous connecter pour commenter et réagir
YS
Pascal il y a 7 mois, 4 semaines
0 pour 0 contre 0 flou 0 blanc

Alors les chinois invente des robots pour être parfait, l'être humain a ces défauts c'est ce qui fait de lui un humain tout simplement.

Afficher / cacher les 2 réponses