Très bon article de vulgarisation, assez rare pour être souligné.

Je souhaiterai apporter quelques précisions sur le fond (les avancées scientifiques concernées, vu que je bosse dans le domaine).

1) Vous ne soulignez pas la différence entre simuler et émuler un cerveau.
L'équipe de Markram simule un bout de cerveau : il s'agit d'un gigantesque système d'équations différentielles (qui régissent l'évolution de variables au cours du temps) où les paramètres (les constantes) suivent plus ou moins les données expérimentales obtenues chez le rat. Ce système d'équation est approximé par un logiciel informatique.
Par contre ils n'émulent pas le comportement de ce bout de cerveau, au sens où le fonctionnement dynamique de leur simulation ne colle pas vraiment à celui d'une colonne corticale. J'ai le souvenir d'un epic fail lors d'une conférence d'un chercheur de son équipe : 1 heure sur tous les détails qu'ils ont incorporé, pour finir sur un "mais ça ne marche pas, donc il doit nous manquer des données"... Enfin, ce n'est pas parce que deux systèmes dynamiques (un cerveau réel et une simulation par exemple) se comportent (évoluent) pareil que les systèmes sont identiques. Je peux simuler une voiture mais pas me déplacer avec. "Ceci n'est pas un cerveau" si j'ose paraphraser Magritte.

2) Il y a quelques confusions (très répandues hein, je ne vous jette pas la pierre) qui traînent :
- la difficulté pour créer de l'IA n'est probablement pas due à un manque de puissance de calcul. Du moins, la "vie mentale" sélectionnée par l'évolution biologique cherche plutôt à engendrer des comportements adaptés en utilisant le moins de ressources possibles. Du coup les raisonnements sur la singularité basés sur la croissance exponentielle de puissance de calcul c'est juste du charlatanisme.

- une différence fondamentale entre informatique et cerveau est qu'il n'existe pas de distinction hardware/software en biologie. Et ça change pas mal de truc, mine de rien

- vous parlez de conscience chez la machine : je vous rappelle que c'est une notion atrocement floue, aucun scientifique ne s'accorde sur sa définition et son existence. On peut par exemple définir la conscience comme de l'attention cognitive (attention qui peut être portée sur d'autres processus de pensée que le sensoriel ou le moteur pur), qui serait réflexive (une attention capable de se porter sur elle-même). Dans ce cas ce n'est pas horriblement compliqué (en théorie) de produire un agent conscient. C'est clairement ce qu'on appelle "l'intelligence" (la capacité à engendrer des comportements adaptés) qui pose problème.

Probablement !
Mais si ton corps bionique résiste à toute température, tu ne rencontreras aucune eau trop chaude ou trop froide, et ton cerveau (ou ce qui te fera office de cerveau) arrêtera de traiter la température comme pertinente.
Ou alors admettons que tu arrives au contrôle absolu de ton corps et de tes sensations... tu banderas sur (ta) demande quelques soient les stimulations rencontrées. Quelle sera la valeur d'une érection ?

Edith : les dates avancées sont toutes farfelues n'en tenez pas compte (mon commentaire devait se finir sur cette conclusion !)