Bienvenue, Invité
Merci de vous identifier ou de vous inscrire.    Mot de passe perdu?
signifie que ce forum est verrouillé; pas de nouveaux messages possibles.
La singularité : signifie que ce forum est verrouillé; pas de nouveaux messages possibles.
(1 lecteur(s)) (1) Invité(s)
Aller en basPage: 123
SUJET: La singularité :
   30/08/13 à 15:29 #39687
yquemener
Contributeur extraordinaire !
Messages: 1596
Personne n'est hors ligne Cliquez ici pour voir le profil de cet utilisateur
 Re:La singularité :
Je n'ai pas vu le film "I.robot" et de ce que tu en dis, et de ce que beaucoup de monde m'en a dit, il semble n'avoir à peu près rien à voir avec l’œuvre d'Asimov.

Je n'ai pas de problème à discuter du scénario Frankenstein (qu'on rebaptise souvent le scénario Terminator ou Skynet, pour être à jour) qui est un risque véritable. Asimov voulait juste montrer qu'on peut imaginer des gardes-fous et créer un monde intéressant avec des robots à notre service. L'abolition du besoin de labeur humain remet toute l’organisation de la société en question. C'est cela qu'il souhaitait explorer.

Établir des règles pour empêcher l'apparition d'une singularité hostile aux humains serait une chose extrêmement utile et urgente à faire. Dans Neuromancien, William Gibson imagine une "police de Turing" chargée d'inspecter les gros systèmes informatique et éviter qu'ils ne deviennent capables de s'améliorer. Je pense que c'était très optimiste. Les exemples réussis de législations prenant en compte des technologies futures sont très rares.

Et comme tu le vois, aujourd'hui, dés qu'on parle d'IA, beaucoup disent "Mais non! l'IA c'est pas possible, pas la peine de s'inquiéter!". Je doute qu'une loi mondiale sur ce sujet voit le jour avant que l'IA ne survienne.

Ce qui me rassure, c'est que face au scénario Terminator, on a le scénario Terminator-II: les machines qui s'améliorent restent des machines. Si on merde une fois en oublient de garder le contrôle, forts de cette expérience, on peut certainement combattre les machines par les machines.
 
Le sujet a été verrouillé.
   30/08/13 à 19:13 #39693
nans1906
Contributeur important
Messages: 86
Personne n'est hors ligne Cliquez ici pour voir le profil de cet utilisateur
 Re:La singularité :
Pour un ordinateur, le hasard n'existe pas. On parle d'entropie. Je pense que si un IA devait "prendre conscience" de sa propre existence, elle en arriverait forcément aux mêmes questions que nous nous posons concernant Dieu, la mort, l'origine de la vie... et certainement à la conclusion que ces questions sont vides de sens si on intègre pas l'homme dans l'équation.

Je pense que les transhumanistes rêvent un peu quand ils imaginent que le progrès technologique peut faire basculer l'humanité avant la fin de ce siècle. Mais une IA qui s'améliorerait d'elle même serait une aubaine pour la conquête spatiale. En effet, les machines sembles mieux adaptées aux conditions d'un voyage interstellaire (longévité, pas besoin d'O2, plus résistantes, pas de contraintes psychologiques...). Les robots peuvent grandement nous aider dans la découverte de notre monde, même si ça sera toujours notre monde.

Maintenant, on peut toujours imaginer un scénario à la matrix, où la machine utilise finalement l'homme comme une source d'énergie. Mais je pense que ce qui serait le plus à craindre, ce soit finalement que l'homme "humanise" la machine et finisse par lui prêter des sentiments.
 
Le sujet a été verrouillé.
   31/08/13 à 05:03 #39704
yquemener
Contributeur extraordinaire !
Messages: 1596
Personne n'est hors ligne Cliquez ici pour voir le profil de cet utilisateur
 Re:La singularité :
En fait, à partir du moment t0 où on a une IA qui fonctionne, je trouve qu'il est très difficile d'imaginer comment le monde ne peut pas être radicalement différent ne serait-ce que 10 ans plus tard. Imagine :

Toutes les professions sont remplaçables par des robots (allez, on va dire toutes les professions non-artistiques pour ne pas rentrer dans un autre débat), il n'est plus nécessaire de travailler. Y compris pour produire plus de ces robots.

La recherche scientifique est également automatisée et ses performances dépendent désormais non plus du nombre de chercheurs travaillant sur un problème, mais de la puissance de calcul qu'on y consacre. Y compris la recherche visant à produire des ordinateurs plus performants.

Combien de temps avant qu'on maitrise, du coup, la fusion, la physique des particules poussées, qu'on unifie la physique, que l'on fasse de grandes avancées mathématiques et algorithmiques ?

Penses-y un peu : ce qui aujourd'hui demande 6 mois de conception et de réflexion (software, mécanique, électronique) pourrait être réalisé en quelques minutes avec la puissance de calcul adéquate. Le progrès va forcément aller à une vitesse fulgurante.
 
Le sujet a été verrouillé.
   01/09/13 à 15:31 #39733
nans1906
Contributeur important
Messages: 86
Personne n'est hors ligne Cliquez ici pour voir le profil de cet utilisateur
 Re:La singularité :
Oui, tu as raison, le progrès risque d'aller à une vitesse fulgurante. Et ce progrès risque aussi de laisser pas mal de monde sur le bord de la route. On le voit déjà avec les googles glasses qui risquent de bouleverser notre manière de vivre. Mais l'IA capable d'imagination, les algorithmes nécessaires pour, on ne les a pas encore. Il faut parfois du hasard ou de l'intuition pour faire une découverte essentielle. Un peu comme la pomme de Newton. Le hasard et l'intuition... Deux choses que les machines ne connaissent pas.

Mais il y a beaucoup à espérer d'un progrès technique important dans les décennies à venir.
 
Le sujet a été verrouillé.
   01/09/13 à 15:53 #39734
Jerem
Moderateur
Messages: 948
Personne n'est hors ligne Cliquez ici pour voir le profil de cet utilisateur
Sexe: Masculin Observatoire Zététique jeremy.royaux@hotmail.be Lieu: Bruxlles - Belgique Date anniversaire: 24/02
 Re:La singularité :
bonjour,
je connais pas grand chose à ce sujet mais j'ai une question
Une I.A est ce que ça peut exister?
je veux dire, si on prend les mots au sens propre...
Parce que, d'après ce que je sais, il n'existe actuellement que des scripts
une A.I, la plus complexe qui existe, c'est jamais qu'une liste de codes
si A, B
si B, C etc
on peut faire une I.A avec un script qui donne illusion d'être intelligent
mais elle ne pourra jamais traiter une info qui sort de son script ?

Pense t on être capable de créer une vrai I.A? si oui comment?
 
Modérateur
Observatoire Zététique
Le sujet a été verrouillé.
   01/09/13 à 15:58 #39735
Jerem
Moderateur
Messages: 948
Personne n'est hors ligne Cliquez ici pour voir le profil de cet utilisateur
Sexe: Masculin Observatoire Zététique jeremy.royaux@hotmail.be Lieu: Bruxlles - Belgique Date anniversaire: 24/02
 Re:La singularité :
bonjour,
je connais pas grand chose à ce sujet mais j'ai une question
Une I.A est ce que ça peut exister?
je veux dire, si on prend les mots au sens propre...
Parce que, d'après ce que je sais, il n'existe actuellement que des scripts
une A.I, la plus complexe qui existe, c'est jamais qu'une liste de codes
si A, B
si B, C etc
on peut faire une I.A avec un script qui donne illusion d'être intelligent
mais elle ne pourra jamais traiter une info qui sort de son script ?

Pense t on être capable de créer une vrai I.A? si oui comment?
 
Modérateur
Observatoire Zététique
Le sujet a été verrouillé.
   01/09/13 à 17:45 #39744
nans1906
Contributeur important
Messages: 86
Personne n'est hors ligne Cliquez ici pour voir le profil de cet utilisateur
 Re:La singularité :
Jerem écrit:
bonjour,
je connais pas grand chose à ce sujet mais j'ai une question
Une I.A est ce que ça peut exister?
je veux dire, si on prend les mots au sens propre...
Parce que, d'après ce que je sais, il n'existe actuellement que des scripts
une A.I, la plus complexe qui existe, c'est jamais qu'une liste de codes
si A, B
si B, C etc
on peut faire une I.A avec un script qui donne illusion d'être intelligent
mais elle ne pourra jamais traiter une info qui sort de son script ?

Pense t on être capable de créer une vrai I.A? si oui comment?



En gros, on peut apporter un grand volume de données à un ordinateur, et voir ce qu'il en ressort, c'est l'aide à la décision.

Il existe la technique informatique des réseaux neuronaux pour simuler une IA.

fr.wikipedia.org/wiki/R%C3%A9seau_de_neurones_artificiels
 
Le sujet a été verrouillé.
   01/09/13 à 22:01 #39755
Jean Doute
«Pénétrons méthodiquement la raison des choses.»
Contributeur extraordinaire !
Messages: 885
Personne n'est hors ligne Cliquez ici pour voir le profil de cet utilisateur
Sexe: Masculin Lieu:  de Pénétration méthodique de la raison des choses Date anniversaire: 21/12
 Re:La singularité :
Bonsoir,
je suggère que dans ce fil ci on accepte l'hypothèse que la réalisation d'une IA d'un niveau humain ou mieux est possible.
Ok
Je suppose alors que toutes les caractéristiques propre aux systèmes complexes existent:
Dés lors qu'une IA existe,pourquoi pas deux ou des milliers. Ces systèmes entre en interactions, partagent-ils alors leurs expériences entre entités ? Quelle inflation d'information ! Sinon cela ne crée-t-il pas de l'individualité ? Les IAs auront donc des problèmes Sociaux.

Les émotions dans une IA ? Elle servirait a valoriser certain processus programme ou certain traitement spécifique de l'information. Dans 2001,(ou 2010) Hal ne devient-il pas fou parce qu'il n'arrive pas interpréter des ordres antagoniste ?

L'IA qui ressemble a un humain m’apparaît crédible.
Par contre qu'un système nous dépassent sur tel ou tel aspect c'est certain...
 
Le sujet a été verrouillé.
   02/09/13 à 03:38 #39762
yquemener
Contributeur extraordinaire !
Messages: 1596
Personne n'est hors ligne Cliquez ici pour voir le profil de cet utilisateur
 Re:La singularité :
nans1906 écrit:
Oui, tu as raison, le progrès risque d'aller à une vitesse fulgurante. Et ce progrès risque aussi de laisser pas mal de monde sur le bord de la route.C'est en effet un grand sujet de préoccupation. Ce pourrait être un outil d'asservissement ou de libération. Je pense que plus un grand nombre de personnes aura réfléchi aux conséquences de ces découvertes, plus il est probable que l'hypothèse positive prévale.

nans1906 écrit:
Le hasard et l'intuition... Deux choses que les machines ne connaissent pas.
Sais-tu qu'au jeu papier-caillou-ciseaux, les ordis battent les humains à peu près 65% du temps ? Alors que la logique dirait qu'on ne peut battre quelqu'un qui joue au hasard que 50% du temps. Mais nous sommes tellement mauvais à générer du hasard, que même un algo simple arrive à bâtir une intuition (on appelle ça un modèle statistique. Si si, c'est très similaire) de ce que l'adversaire va jouer.

Jerem écrit:
on peut faire une I.A avec un script qui donne illusion d'être intelligent
mais elle ne pourra jamais traiter une info qui sort de son script ?
Mais a-t-on prouvé que les humains font autre chose ? Nos pensées et nos réactions ne sortent pas du néant et la majorité des scientifiques s'accordent à dire que le rôle du cerveau est de traiter les informations en entrée et de produire des actions en sortie, selon un algorithme pas encore bien compris. Impossible de sortir du "script" de son cerveau.

Jerem écrit:
Pense t on être capable de créer une vrai I.A? si oui comment?
Perso, ça ne me gêne pas qu'on ouvre un autre fil pour répondre à ces questions, mais je préfère les laisser ici en suspens en disant "admettons une IA possible" et qu'on ne parle ici que des conséquences d'une telle invention.

Jean Doute écrit:
Les émotions dans une IA ? Elle servirait a valoriser certain processus programme ou certain traitement spécifique de l'information. Dans 2001,(ou 2010) Hal ne devient-il pas fou parce qu'il n'arrive pas interpréter des ordres antagoniste ?Dans 2010, le concepteur de Hal (Dr Chandra) explique que HAL n'est pas devenu fou et a parfaitement fonctionné. La faute en revient à des politiciens qui ont cru judicieux de donner de façon secrète un ordre à HAL : ils lui ont appris l'existence du monolithe et lui ont donné l'ordre de cacher cette information à l'équipage jusqu'à leur arrivée dans l'orbite de Jupiter (dans le film) ou Saturne (dans le livre). Comme le disait Chandra, HAL a été conçu comme un aide scientifique, les politiciens ignoraient que mentir ou cacher des informations, chose naturelle pour eux, était une chose à laquelle HAL n'était pas du tout préparé. Il a donc construit un argument logique: si je réveille ces scientifiques, ils vont découvrir l'information secrète, je dois donc les tuer, et je dois faire de même pour les deux membres d'équipage éveillés.

HAL avait certainement un ordre avec une forte priorité lui disant de maintenir l'équipage en vie, mais j'imagine très bien le politicien en pleine guerre froide disant sans comprendre les conséquences de ses actions "l'ordre de garder ces informations secrètes est l'ordre de priorité la plus importante".

Ce scénario est une très bonne raison de créer des lois à la Asimov: gravées profondément dans l'algo et impossibles à modifier par l'utilisateur.
 
Le sujet a été verrouillé.
   02/09/13 à 09:18 #39765
Pandora
Contributeur extraordinaire !
Messages: 378
Personne n'est hors ligne Cliquez ici pour voir le profil de cet utilisateur
Lieu: A l'horizon des évenements
 Re:La singularité :
Salut !

Je pense que l'intelligence et la personnalité sont deux choses différentes. Certes une I.A pourrait-être aussi intelligente que l'homme. Plus je ne suis pas sûre, la puissance de calcul ne fait pas tout, nous affranchissons déjà d'une bonne partie de ça avec nos ordinateurs actuels, pourtant nous ne faisons pas une nouvelle découverte fondamentale tout les deux mois.

Mais a-t-on prouvé que les humains font autre chose ? Nos pensées et nos réactions ne sortent pas du néant et la majorité des scientifiques s'accordent à dire que le rôle du cerveau est de traiter les informations en entrée et de produire des actions en sortie, selon un algorithme pas encore bien compris. Impossible de sortir du "script" de son cerveau.

Cette remarque me fait penser à quelque chose. La particularité du cerveau est également d'être capable d'assimiler et d’interpréter des signaux d'entrées totalement différents (visuels, auditifs, tactiles...) et d'y associer différentes idées et concepts. Une I.A dans une machine, tout aussi puissante qu'elle soit, serait-elle capable de comprendre de pareils signaux et d'en tirer quelque chose ? Je veux dire sans les émotions qui sont attachées à tel son ou à tel goût, comment cela pourrait-il avoir un sens pour elle ? Évidemment on pourrait forger un script (j'imagine) qui lui dirait "quoi" ressentir, mais dans ce cas là elle ne l'apprendrais pas, ce qui est l'inverse de ce qu'on voudrait obtenir avec une I.A.

Pour le "Impossible de sortir du "script" de son cerveau" je ne sais pas. On peut apprendre à penser de différentes manière, ne serait-ce pas un moyen de se reprogrammer pour différentes tâches ? A moins que tu ne parles qu'au sens chimique du cerveau...

Sais-tu qu'au jeu papier-caillou-ciseaux, les ordis battent les humains à peu près 65% du temps ? Alors que la logique dirait qu'on ne peut battre quelqu'un qui joue au hasard que 50% du temps. Mais nous sommes tellement mauvais à générer du hasard, que même un algo simple arrive à bâtir une intuition (on appelle ça un modèle statistique. Si si, c'est très similaire) de ce que l'adversaire va jouer.

L'I.A ne laisse rien au hasard c'est sûr, ça ne serait pas là une de ses limites dans sa manière de réfléchir et concevoir le monde également, à priori ? Le fait d'ignorer certains paramètres n'est-il pas la base de l'imagination ?
 
Le sujet a été verrouillé.
Revenir en hautPage: 123
Modérateur: Bobby, Jerem
Développé par KunenaObtenir les derniers messages directement sur votre PC - Version française:SFK