Il sera impossible de contrôler une IA super intelligente. Actualités de la bibliothèque technique gratuite

Bibliothèque technique gratuite

NOUVELLES DE LA SCIENCE ET DE LA TECHNOLOGIE, NOUVEAUTÉ EN ÉLECTRONIQUE
Bibliothèque technique gratuite / Fil d'actualités

Il sera impossible de contrôler l'IA super intelligente

29.09.2022

L'idée de renverser l'humanité avec l'intelligence artificielle est discutée depuis des décennies et, en 2021, les scientifiques ont rendu leur verdict sur la possibilité de contrôler la superintelligence informatique de haut niveau.

Le hic, c'est que pour contrôler une superintelligence qui dépasse de loin l'entendement humain, il faudra simuler cette superintelligence, qui peut être analysée et contrôlée. Mais si les gens ne sont pas capables de comprendre cela, alors il est impossible de créer une telle simulation.

Des règles telles que "ne pas blesser les gens" ne peuvent pas être définies si les gens ne comprennent pas les scénarios que l'IA a à offrir. Une fois qu'un système informatique fonctionne à un niveau au-delà des capacités de nos programmeurs, plus aucune limite ne peut être fixée.

La superintelligence présente une problématique fondamentalement différente de celles habituellement étudiées sous le slogan de « l'éthique du robot », du fait que la superintelligence est multiforme et donc potentiellement capable de mobiliser des ressources variées pour atteindre des objectifs potentiellement incompréhensibles. aux humains, sans parler de leur contrôle.

Une partie du raisonnement de l'équipe provenait du problème d'arrêt posé par Alan Turing en 1936. Le problème est de savoir si le programme informatique proposera une sortie et une réponse (donc il s'arrêtera) ou s'il fera simplement une boucle pour essayer de la trouver.

Les chercheurs ont noté, comme Turing l'a prouvé avec des mathématiques intelligentes, bien que nous puissions le savoir pour certains programmes spécifiques, il est logiquement impossible de trouver un moyen qui nous permettrait de le savoir pour chaque programme potentiel qui pourrait jamais être écrit. Cela nous ramène à l'IA, qui, dans un état superintelligent, pourrait simultanément contenir dans sa mémoire tous les programmes informatiques possibles.

Selon les scientifiques, tout programme écrit pour empêcher l'IA de nuire aux humains et de détruire le monde, par exemple, peut décider (et arrêter) s'il est ou non mathématiquement impossible d'être absolument sûr de toute façon, ce qui signifie qu'il ne peut pas être contenu . Les scientifiques ont déclaré que l'alternative à enseigner à l'IA une certaine éthique et à lui dire de ne pas détruire le monde - ce dont aucun algorithme ne peut être absolument sûr - est de limiter les capacités de la superintelligence.

"L'étude a également rejeté cette idée, suggérant qu'elle limiterait les possibilités de l'IA. L'argument est que si nous n'allons pas l'utiliser pour résoudre des problèmes au-delà des capacités humaines, alors pourquoi le créer du tout ? Si nous allons bouger aller de l'avant avec l'IA "nous ne savons peut-être même pas quand une superintelligence indépendante de notre volonté apparaîtra, tant elle est incompréhensible. Cela signifie que nous devons commencer à nous poser de sérieuses questions sur la direction dans laquelle nous nous dirigeons", ont noté les scientifiques.

<< Retour : La curcumine prévient la perte de vision 29.09.2022

>> Transférer : Levure transplantée avec des gènes humains 28.09.2022

Dernières nouvelles de la science et de la technologie, nouvelle électronique :

Piège à air pour insectes 01.05.2024

L'agriculture est l'un des secteurs clés de l'économie et la lutte antiparasitaire fait partie intégrante de ce processus. Une équipe de scientifiques du Conseil indien de recherche agricole et de l'Institut central de recherche sur la pomme de terre (ICAR-CPRI), à Shimla, a mis au point une solution innovante à ce problème : un piège à air pour insectes alimenté par le vent. Cet appareil comble les lacunes des méthodes traditionnelles de lutte antiparasitaire en fournissant des données en temps réel sur la population d'insectes. Le piège est entièrement alimenté par l’énergie éolienne, ce qui en fait une solution respectueuse de l’environnement qui ne nécessite aucune énergie. Sa conception unique permet la surveillance des insectes nuisibles et utiles, fournissant ainsi un aperçu complet de la population dans n'importe quelle zone agricole. "En évaluant les ravageurs cibles au bon moment, nous pouvons prendre les mesures nécessaires pour lutter à la fois contre les ravageurs et les maladies", explique Kapil. ...>>

La menace des débris spatiaux pour le champ magnétique terrestre 01.05.2024

On entend de plus en plus souvent parler d’une augmentation de la quantité de débris spatiaux entourant notre planète. Cependant, ce ne sont pas seulement les satellites et les engins spatiaux actifs qui contribuent à ce problème, mais aussi les débris d’anciennes missions. Le nombre croissant de satellites lancés par des sociétés comme SpaceX crée non seulement des opportunités pour le développement d’Internet, mais aussi de graves menaces pour la sécurité spatiale. Les experts se tournent désormais vers les implications potentielles pour le champ magnétique terrestre. Le Dr Jonathan McDowell du Harvard-Smithsonian Center for Astrophysics souligne que les entreprises déploient rapidement des constellations de satellites et que le nombre de satellites pourrait atteindre 100 000 au cours de la prochaine décennie. Le développement rapide de ces armadas cosmiques de satellites peut conduire à une contamination de l'environnement plasmatique terrestre par des débris dangereux et à une menace pour la stabilité de la magnétosphère. Les débris métalliques des fusées usagées peuvent perturber l'ionosphère et la magnétosphère. Ces deux systèmes jouent un rôle clé dans la protection de l’atmosphère et le maintien ...>>

Solidification de substances en vrac 30.04.2024

Il existe de nombreux mystères dans le monde de la science, et l’un d’eux est le comportement étrange des matériaux en vrac. Ils peuvent se comporter comme un solide mais se transformer soudainement en un liquide fluide. Ce phénomène a attiré l’attention de nombreux chercheurs, et peut-être sommes-nous enfin sur le point de résoudre ce mystère. Imaginez du sable dans un sablier. Il s'écoule généralement librement, mais dans certains cas, ses particules commencent à se coincer, passant d'un liquide à un solide. Cette transition a des implications importantes dans de nombreux domaines, de la production de drogues à la construction. Des chercheurs américains ont tenté de décrire ce phénomène et de mieux le comprendre. Dans l’étude, les scientifiques ont effectué des simulations en laboratoire en utilisant les données provenant de sacs de billes de polystyrène. Ils ont découvert que les vibrations au sein de ces ensembles avaient des fréquences spécifiques, ce qui signifie que seuls certains types de vibrations pouvaient traverser le matériau. Reçu ...>>

Stimulateur cérébral implanté 30.04.2024

Ces dernières années, la recherche scientifique dans le domaine des neurotechnologies a fait d’énormes progrès, ouvrant de nouveaux horizons pour le traitement de divers troubles psychiatriques et neurologiques. L'une des réalisations importantes a été la création du plus petit stimulateur cérébral implanté, présenté par un laboratoire de l'Université Rice. Appelé Digitally Programmable Over-brain Therapeutic (DOT), cet appareil innovant promet de révolutionner les traitements en offrant plus d’autonomie et d’accessibilité aux patients. L'implant, développé en collaboration avec Motif Neurotech et des cliniciens, introduit une approche innovante de la stimulation cérébrale. Il est alimenté par un émetteur externe utilisant le transfert de puissance magnétoélectrique, éliminant ainsi le besoin de fils et de grosses batteries typiques des technologies existantes. Cela rend la procédure moins invasive et offre davantage de possibilités d'améliorer la qualité de vie des patients. En plus de son utilisation en traitement, résistez ...>>

La perception du temps dépend de ce que l'on regarde 29.04.2024

La recherche dans le domaine de la psychologie du temps continue de nous surprendre par ses résultats. Les découvertes récentes des scientifiques de l'Université George Mason (États-Unis) se sont révélées tout à fait remarquables : ils ont découvert que ce que nous regardons peut grandement influencer notre perception du temps. Au cours de l'expérience, 52 participants ont passé une série de tests, estimant la durée de visualisation de diverses images. Les résultats ont été surprenants : la taille et le détail des images ont eu un impact significatif sur la perception du temps. Des scènes plus grandes et moins encombrées créaient l’illusion d’un ralentissement du temps, tandis que des images plus petites et plus chargées donnaient l’impression d’un temps qui s’accélère. Les chercheurs suggèrent que le désordre visuel ou la surcharge de détails peuvent rendre difficile la perception du monde qui nous entoure, ce qui peut conduire à une perception plus rapide du temps. Ainsi, il a été démontré que notre perception du temps est étroitement liée à ce que nous regardons. De plus en plus petit ...>>

Nouvelles aléatoires de l'Archive

Le revêtement antireflet améliore l'efficacité des panneaux solaires 20.05.2014

Des scientifiques britanniques ont mis au point un moyen de se débarrasser de l'éblouissement des panneaux solaires et d'augmenter leur efficacité grâce à une meilleure absorption de la lumière.

Les panneaux solaires traditionnels se caractérisent par leur capacité à produire un éblouissement intense. Des chercheurs de l'Université de Loughborough au Royaume-Uni ont pu développer un revêtement antireflet multicouche qui réduit la réflexion lumineuse des panneaux photovoltaïques et, par conséquent, augmente leur efficacité.

Les scientifiques ont enduit des panneaux solaires de couches de dioxyde de silicium et d'oxyde de zirconium. Le nouveau revêtement est résistant à l'abrasion et aux rayures. Grâce à l'utilisation de la composition, la puissance de sortie de la centrale solaire et l'efficacité de conversion de l'énergie solaire en énergie électrique sont augmentées.

Voir complet Archives de l'actualité scientifique et technologique, nouvelle électronique

Toutes les langues de cette page

Page principale | bibliothèque | Articles | Plan du site | Avis sur le site