Il faut admettre que je suis un profane. Je ne comprends pas comment la technologie fonctionne. Mais ce que je trouve le plus choquant et franchement terrifiant à propos de l'IA, à son stade actuel de développement, c'est sa capacité à apparemment comprendre. Vous pouvez, en ce moment, donner à l'IA un contrat légal et elle lira l'ensemble et crachera une analyse détaillée de type juridique en 30 secondes. Encore plus surprenant, vous pouvez lui donner un scénario de film entier et elle lira tout et vous donnera des retours créatifs, en saisissant même le sous-texte, les thèmes et les moments individuels des personnages, et le faire en une minute. Cela ne semble même pas possible, mais c'est ce qu'elle peut faire. C'est cela qui est troublant. Et ce qui est encore plus troublant, c'est que je ne pense pas que quiconque comprenne vraiment comment cette chose est capable de comprendre.

J'ai expérimenté cela en utilisant un ancien contrat pour un accord de livre il y a des années. Tout ce que je peux dire, c'est qu'en 30 secondes, il a relevé toutes les choses que mon avocat humain avait remarquées, et quelques éléments qu'il n'avait pas remarqués.

Je sais que la réponse est que l'IA ne « comprend » pas vraiment dans le sens où le font les êtres conscients. Et je suppose que c'est vrai. Mais à quel moment la distinction entre comprendre et l'apparence de comprendre commence-t-elle à s'effondrer ? Personne ne connaît vraiment la réponse à cela. Et pourtant, nous avançons quand même.