IA, Robots et la question de la conscience

Lyen · 21/12/2014, 02h29

Sinon moi j'ai regardé le dernier Robocop aujourd'hui

Soir · 30/01/2015, 07h08

Elon Musk et Bill Gates partagent les mêmes craintes.

Ce qui n'empêche pas Bill Gates, avec MS, de préparer un nouveau projet d'IA.

Kelem Khâl La'Ri · 30/01/2015, 12h27

Citation :

Publié par Soir

Elon Musk et Bill Gates partagent les mêmes craintes.

Amusant, ça fait plus de 20 ans que je pointe du doigt ces problèmes, lorsque j'ai refusé un financement de la DGA concernant le développement de drones autonomes... Ah tiens, on me dit que c'est également à la mode ces jours-ci, les drones se baladant au-dessus de nos centrales nucléaires. Comme quoi, quand une personne refuse un boulot, il y en a toujours dix derrière pour le prendre, c'est comme ça et cela ne risque pas de changer. L'homme ne serait pas homme sinon.

kermo · 30/01/2015, 23h49

Les drones qui se baladent au dessus des centrales ne sont probablement pas pilotés par une IA, tout au plus ils suivent des points GPS.

La menace évoquée par Gates ou Musk, perso je la vois surtout au niveau logiciel. Le tout numérique, l'avatar censé te simplifier la vie, il sait plein de trucs sur toi et il est connecté à... je sais pas quoi. Idem, sur un autre plan, pour les algos de finance que j'avais évoqués et qui sous couvert d'optimiser les achats et ventes d'action laissent totalement de côté l'humain qu'il y a derrière.

Le robot intelligent qui devient fou, pourquoi pas mais pour l'instant les moyens d'action réels des robots sont assez faibles - sauf pour les robots guerriers, of course.

Eden Paradise · 31/01/2015, 00h04

Citation :

Publié par Kelem Khâl La'Ri

Amusant, ça fait plus de 20 ans que je pointe du doigt ces problèmes, lorsque j'ai refusé un financement de la DGA concernant le développement de drones autonomes... Ah tiens, on me dit que c'est également à la mode ces jours-ci, les drones se baladant au-dessus de nos centrales nucléaires. Comme quoi, quand une personne refuse un boulot, il y en a toujours dix derrière pour le prendre, c'est comme ça et cela ne risque pas de changer. L'homme ne serait pas homme sinon.

Un robot fait ce pour quoi il a été programmé
Si on est assez cons pour laisser un drone choisir la cible qu'il va descendre c'est un peu de notre faute.

Kelnnay · 31/01/2015, 20h34

Citation :

Publié par Eden Paradise

Un robot fait ce pour quoi il a été programmé
Si on est assez cons pour laisser un drone choisir la cible qu'il va descendre c'est un peu de notre faute.

Bah sans être assez con j'ai vu que Kelem Khâl La'Ri parlait de comportement inattendu il y'a quelques posts donc ça n'est pas inenvisageable.

Si demain un robot policier décide que le meilleur moyen d'arrêter un voleur qu'il poursuit c'est de détruire un pont avec d'autres gens dessus ( ça fait tres SF oui ) en quoi il aura déroger à son but? Il aura juste résolu l'équation qui lui est donné.

31/01/2015, 21h20

C'est marrant comme certaines questions sur ce thrad rejoignent la S.F type Asimov. Comme quoi la S.F c'est autre chose que "de la fantasy avec des boulons".

Je m'interroge depuis longtemps sur la conscience humaine et ce que pourrait être une conscience programmée, je crois qu'il faut accepter la perte de contrôle pour réellement parler de conscience autonome, mais que cela suppose la possible extinction de notre propre espèce. Ou la fusion avec cette nouvelle conscience que nous humains ferions émerger par notre technicité. Je crois aussi qu'on est encore loin de maitriser les subtilités de la création "organique", et que nous avons du mal à appréhender une conscience qui ne soit pas associée à un corps.

Attel Malagate · 31/01/2015, 21h34

Bwarf, ils font vraiment de la peine Stephen Hwaking et Bill Gates; à flipper sur l'IA et les machines.
Je serais curieux de voir ça, une "espèce" capable de nous défier. "a new challenger has entered the ring"
On les fument les robots, ils ont aucune chance, c'est pas possible de trouver plus malveillant et douer pour le massacre que notre espèce.

31/01/2015, 21h40

Je pense plutôt le contraire notre nature organique et notre empathie (nous sommes une espèce sociale) sont peut être un frein, une intelligence purement décorporée type I.A pourrait peut être facilement décider que l'élimination d'autres espèces / intelligences est une option valable.

Hellraise · 31/01/2015, 23h03

Malheureux à dire, mais une approche de type théorie des jeux devrait forcer l'homme à détruire à vue toute autre forme d'intelligence si c'est possible, que ce soit les singes ou les IA.
En gros devenir copain avec les ET plus forts et les buter à la première occasion pour éliminer la probabilité non-nulle qu'on se fasse buter un jour.

Mimu · 31/01/2015, 23h06

Citation :

Publié par Le Suifeux

Je pense plutôt le contraire notre nature organique et notre empathie (nous sommes une espèce sociale) sont peut être un frein, une intelligence purement décorporée type I.A pourrait peut être facilement décider que l'élimination d'autres espèces / intelligences est une option valable.

C'est déjà ce qu'on décide pour bouffer ce qu'on veut toute l'année ou pouvoir s'acheter une troisième piscine. Donc t'inquiète que sur des sujets vraiment important on aura aucun mal à dégommer des robots.

Kelem Khâl La'Ri · 31/01/2015, 23h50

Citation :

Publié par Hellraise

Malheureux à dire, mais une approche de type théorie des jeux devrait forcer l'homme à détruire à vue toute autre forme d'intelligence si c'est possible, que ce soit les singes ou les IA.

Tu ne connais pas les stratégies de type tit for tat en théorie des jeux ?

01/02/2015, 13h38

Citation :

Publié par Mimu

C'est déjà ce qu'on décide pour bouffer ce qu'on veut toute l'année ou pouvoir s'acheter une troisième piscine. Donc t'inquiète que sur des sujets vraiment important on aura aucun mal à dégommer des robots.

On serait parfaitement capables d'exercer notre violence sur des robots mais ... si ces robots sont conscients et autonomes, ils ont potentiellement des capacités bien plus élevées que nous sur certains domaines. Et si ces robots (ou autre espèce consciente technologiquement supérieure) sont dépourvus d'empathie envers notre espèce ils peuvent déterminer que nous sommes un danger ou un frein à leur existence et décider une élimination totale, "froidement rationnelle". D'autant que nous massacrons et torturons allègrement toutes les espèces auxquelles nous sommes confrontés et la nôtre tout autant.

Kastiel · 25/02/2015, 22h42

Un nouveau pas vers une IA qui apprend d'elle même grâce à Google.

http://www.rtl.fr/culture/web-high-t...eul-7776752656

Noumenon · 26/02/2015, 02h39

Papiers publiés sur le sujet pour les curieux :
abstract :
http://www.nature.com/nature/journal...ture14236.html

Papier complet :
http://www.readcube.com/articles/10....mi_8Lw_A%3D%3D

Gardien · 26/02/2015, 09h13

Interessant ! Bientot des IA au top dans les jeux ?

Non ! Bientôt des farmers chinois au chômage remplacer par des IAs !
Triste monde ou meme des farmers d'OR virtuel sont remplacer par des machines...

Ron Jetevois · 26/02/2015, 13h59

La singularité approche.

Greldi · 17/04/2015, 13h16

Citation :

Publié par Soir

Est-ce qu’il est possible de créer une entité consciente d’elle-même ?

Je ne sais pas si c’est possible, mais autant que je sache, on en est très loin. Je ne suis même pas sûr que la question ait réellement un sens, ou du moins un sens partagé par la majorité. Qu’est-ce que c’est, « avoir conscience de soi » ? Quels critères nous permettraient de déterminer si une machine est consciente d’elle-même, et ne serait pas une simulation sophistiquée du phénomène ?

Est-ce que les IA nous dépassent ou vont nous dépasser ?

Là aussi, il faut préciser le contexte. Mais beaucoup de gens, liant plus ou moins cette question à la précédente, fantasment une sorte d’IA omnisciente, un peu à la façon d’une entité surhumaine. Les IA nous dépassent dans un tas de domaines, sans avoir besoin de conscience. Perso, le moindre programme d’échecs me bat à plate couture (la plupart des humains jouant aux échecs aussi, hein). Mais il semble que l’on soit encore loin d’une IA capable de traiter de n’importe quel sujet, d’une IA non spécialisée.

Est-ce que les machines ont besoin d’une conscience pour être une menace ?

J’ai des Joliens dire que l’on ne risque rien de la part des robots parce qu’on n’est pas prêts d’en faire avec la conscience d’eux-mêmes. Mais, à mon avis, pas besoin qu’ils aient conscience d’eux-mêmes. On pourrait très bien imaginer une histoire (de la SF pour le moment) où des IA sans conscience d’exister prennent le pouvoir, simplement parce que cela correspond aux résultats des calculs programmés en elles.

on fantasme beaucoup sur les ia superintelligentes...
mais y a plein d'intelligence qui nous entoure qui nous dépasse pas...
ok la je suis chez moi, dans mon jardin ya une pie, une tourterelle, des geais, un chat, chez les voisin ya un bébé....
nul doute que ces etres vivants sont moins intelligents qu'un adulte humain...je sais bien que la pie va pas venir philosopher ou faire la révolution avec un lanceroquette, bin c'est pareil avec les robots faut pas les craindre, les ia humaines sont pas pour de suite....d'ailleurs vu tout les fous de dieux, psychopathes, obsédés dans le monde, je crois pas qu'une ia humaine soit recherchée...
les robots sont la pour des fonctions

mettons un robot soldat, pour tirer ils sauront mieux le faire que les humains, mais sortis du champs de bataille ils sont inutiles, car le probleme est d'identifier l'ami de l'ennemi, et va différencier un civil d'un autre civil, surtout en péridoe de guerre civile qui a tort ou a raison, ?

un robot ménager pourquoi pas ila pas besoin de reflechir mais faudra pas laisser trainer vos affaires.

un robot psy, deux problèmes, le premier c'est qu'y aura pas l'empathie d'un humain mais on pourra se confier plus facilement, le deuxieme c'est qu'on va pas se confier a un truc qui peux se faire hack et se retrouvé dans les mains de la police sur le net ou votre patron.

un robot compagnon, pour se masturber dedans en faisant la conversation, glauque mais pkoi pas, l'ia peux etre assez interessante..la encore vaut mieux aps qu'il ait une grosse mémoire pour pas se faire pirater !

un robot prof, pédagogue, wikipedia a domicile !
pratique pour ceux qui veulent apprendre
idéal pour qu'il fasse vos devoirs pour les feignasses

un robot imam,
priere a l'heure garantie, versets et preches controlés contre les dérives, livrés dans un ensemble impeccable avec des leds vertes, une machine à vapeur et à encens, et des basses intégrés, génial l'ambiance mystique !
sauf que les gens religieux ont besoin d'une autorité morale a qui se fier.

un robot pour fliquer votre employé
ca existe déjà, offrez lui smartphone... avec géolocalisation complete héhé

venons en au robot qui ne sera jamais developpé:
Le robot Politique.
en effet ce con la serait capable de tenir ses promesses, de pas etre intimidé par les syndicat, de pas etre influencer par les lobby, de pas accepter de pots de vins, de pas penser a sa rélection, et de faire ce qu'il dit et de dire ce qu'il fait, de pas savoir retourner sa veste, de pas cumuler les mandats, de pas détourner d'argent, de pas sauter sa secretaire, de pas récuper un evenement....
Non franchement ce robot serait trop dangereux !

Ron Jetevois · 17/04/2015, 13h22

Peut être saura-t-on copier l'esprit humain, avant de créer une IA.

Dans ce cas, l'esprit humain copié le sera-t-il, humain?

huhuh · 17/04/2015, 15h17

Pour ta question, je recommande la série Dollhouse qui traite en partie du sujet

(c'est du Whedon)

Soir · 30/08/2015, 20h07

Je remonte ce fil avec un peu d'humour. Un robot a répondu à la question d'une éventuelle domination du monde par les robots. Pas de problème, il est notre ami, il prendra toujours soin de nous.
Même s'il devait évoluer en une sorte de terminator.

30/08/2015, 21h07

Message supprimé par son auteur.

Soir · 30/08/2015, 22h16

Tu ne te fais pas des idées

Citation :

An android head built in the image of a long-gone author, ready to answer questions in his voice
http://www.theverge.com/2012/10/1/34...ange-your-life

Mr Bourpif · 31/08/2015, 08h05

Citation :

Publié par Greldi

un robot compagnon, pour se masturber dedans en faisant la conversation, glauque mais pkoi pas, l'ia peux etre assez interessante..la encore vaut mieux aps qu'il ait une grosse mémoire pour pas se faire pirater !

Je pense que là c'est déjà à l'étude, il y a une vidéo intitulée Uncanny Lover qui s'affiche à la fin de Freaky AI.
Commercialement parlant je suis sur que c'est ce qui se vendra le mieux, avec certaines gonzesses t 'a déjà l'impression de te taper un robot et au moins là elle sera toujours dispo

Bon pas taper, ça marche aussi dans l'autre sens, un sexbot qui ressemble à Brad, toujours prêt, monté comme un poney qui te masse les pieds quand tu rentres du boulot, le rêve de madame. Ca me fait penser à Real Human.

Ca me rappele aussi un dialogue de la défunte série Almost Human : "Quand les sex bots sont sortis sur le marché, les crimes sexuels ont baissé de 85%".

Lyen Alpha & Oméga	Sinon moi j'ai regardé le dernier Robocop aujourd'hui
21/12/2014, 02h29

Soir	Elon Musk et Bill Gates partagent les mêmes craintes. Ce qui n'empêche pas Bill Gates, avec MS, de préparer un nouveau projet d'IA.
30/01/2015, 07h08

Attel Malagate	Bwarf, ils font vraiment de la peine Stephen Hwaking et Bill Gates; à flipper sur l'IA et les machines. Je serais curieux de voir ça, une "espèce" capable de nous défier. "a new challenger has entered the ring" On les fument les robots, ils ont aucune chance, c'est pas possible de trouver plus malveillant et douer pour le massacre que notre espèce.
31/01/2015, 21h34

#117140 Invité	Je pense plutôt le contraire notre nature organique et notre empathie (nous sommes une espèce sociale) sont peut être un frein, une intelligence purement décorporée type I.A pourrait peut être facilement décider que l'élimination d'autres espèces / intelligences est une option valable.
31/01/2015, 21h40

Hellraise Alpha & Oméga	Malheureux à dire, mais une approche de type théorie des jeux devrait forcer l'homme à détruire à vue toute autre forme d'intelligence si c'est possible, que ce soit les singes ou les IA. En gros devenir copain avec les ET plus forts et les buter à la première occasion pour éliminer la probabilité non-nulle qu'on se fasse buter un jour.
31/01/2015, 23h03

Kelem Khâl La'Ri Alpha & Oméga	Citation : Publié par Hellraise Malheureux à dire, mais une approche de type théorie des jeux devrait forcer l'homme à détruire à vue toute autre forme d'intelligence si c'est possible, que ce soit les singes ou les IA. Tu ne connais pas les stratégies de type tit for tat en théorie des jeux ?
31/01/2015, 23h50

Kastiel Dieu suprême	Un nouveau pas vers une IA qui apprend d'elle même grâce à Google. http://www.rtl.fr/culture/web-high-t...eul-7776752656
25/02/2015, 22h42

Noumenon	Papiers publiés sur le sujet pour les curieux : abstract : http://www.nature.com/nature/journal...ture14236.html Papier complet : http://www.readcube.com/articles/10....mi_8Lw_A%3D%3D
26/02/2015, 02h39

Gardien Alpha & Oméga	Interessant ! Bientot des IA au top dans les jeux ? Non ! Bientôt des farmers chinois au chômage remplacer par des IAs ! Triste monde ou meme des farmers d'OR virtuel sont remplacer par des machines...
26/02/2015, 09h13

Ron Jetevois Alpha & Oméga	La singularité approche.
26/02/2015, 13h59

Ron Jetevois Alpha & Oméga	Peut être saura-t-on copier l'esprit humain, avant de créer une IA. Dans ce cas, l'esprit humain copié le sera-t-il, humain?
17/04/2015, 13h22

huhuh Alpha & Oméga	Pour ta question, je recommande la série Dollhouse qui traite en partie du sujet (c'est du Whedon)
17/04/2015, 15h17

Soir	Je remonte ce fil avec un peu d'humour. Un robot a répondu à la question d'une éventuelle domination du monde par les robots. Pas de problème, il est notre ami, il prendra toujours soin de nous. Même s'il devait évoluer en une sorte de terminator.
30/08/2015, 20h07

#204887 Invité	Message supprimé par son auteur.
30/08/2015, 21h07

Soir	Tu ne te fais pas des idées Citation : An android head built in the image of a long-gone author, ready to answer questions in his voice http://www.theverge.com/2012/10/1/34...ange-your-life
30/08/2015, 22h16

IA, Robots et la question de la conscience

Connectés sur ce fil