Admito que sou leigo. Não entendo como a tecnologia funciona. Mas o que acho mais chocante e, francamente, assustador sobre a IA, em seu estágio atual de desenvolvimento, é sua capacidade aparentemente de entender. Você pode, agora mesmo, passar um contrato legal para a IA e ela vai ler tudo e produzir uma análise detalhada de advogados em 30 segundos. Ainda mais surpreendente, você pode dar um roteiro inteiro de filme e ele vai ler tudo, te dar feedback criativo, até captando subtextos, temas e momentos individuais dos personagens, e faz tudo isso em um minuto. Nem parece possível, mas é isso que pode fazer. Essa é a parte inquietante. E o mais perturbador é que acho que ninguém realmente entende exatamente como a coisa é capaz de entender.

Experimentei isso usando um contrato antigo para um contrato de livro anos atrás. Tudo que posso dizer é que, em 30 segundos, ele captou todas as coisas que meu advogado humano percebeu, e algumas que ele não percebeu.

Eu sei que a resposta é que a IA realmente não "entende" no sentido em que os seres conscientes entendem. E acho que isso é verdade. Mas em que momento a distinção entre compreensão e aparência de compreensão começa a desmoronar? Ninguém realmente sabe a resposta para isso. E mesmo assim estamos avançando.