Enquanto eu estava trabalhando no manuscrito para Mais do que palavras: porquê pensar em ortografar na era da IAfiz muitas experiências com grandes modelos de linguagem, passando a maior secção do tempo com ChatGPT (e seus vários sucessores) e Claude (em seus diferentes sabores).
Previ que, com o tempo, esta experiência revelaria alguma emprego genuinamente útil desta tecnologia ao meu trabalho porquê plumitivo.
Na verdade, tem sido o oposto e acho interessante explorar o porquê.
Um factor é que me tornei mais preocupado com o que considero uma filiação largamente acrítica da IA generativa em contextos educativos. Não estou unicamente a falar de medidas flagrantemente equivocadas, porquê a introdução de um emulador de Anne Frank com tecnologia de IA que só tem pensamentos gentis em relação aos nazistasmas outros exemplos de instrutores e instituições assumindo que, porque a tecnologia é uma maravilha, ela deve têm um efeito positivo no ensino e na aprendizagem.
Isto aproximou-me de uma mentalidade de resistência, pelo menos para fornecer um contrapeso àqueles que vêem a IA porquê uma inevitabilidade sem considerar o que está do outro lado. Na verdade, porém, em vez de ser um resistente totalidade, estou mais de contrato com Marc Watkins, que acredita que deveríamos ver a IA porquê “inevitável”, mas não “inevitável”. Embora eu ache que abraçar a IA generativa seja mais do que tolo, também não descarto a utilidade potencial da tecnologia para ajudar os alunos a aprender.
(No entanto, uma grande questão em desobstruído é o que e porquê queremos que eles aprendam essas coisas.)
Outro fator foi que quanto mais eu trabalhava com os LLMs, menos confiava neles. Segmento disso ocorreu porque eu estava tentando implantar seus recursos para me estribar na escrita em áreas onde tenho um conhecimento prévio significativo e descobri que eles consistentemente me orientaram para o lado falso de maneiras sutis, mas significativas. Isto, por sua vez, me deixou com terror de usá-los em áreas onde não tenho o conhecimento necessário para policiar suas alucinações.
Porém, na maioria das vezes, quase todas as vezes que tentei usá-los no interesse de obter um senda para um resultado mais rápido, percebi que, ao tomar o senda, havia perdido alguma experiência importante ao longo do caminho.
Por exemplo, em uma seção onde defendo a valia de cultivar o próprio sabor e tino de qualidade estética, pretendi usar qualquer material do livro do redator da New Yorker, Kyle Chayka Filterworld: porquê os algoritmos achataram a cultura. Eu tinha lido e até revisado o livro vários meses antes, portanto pensei que tinha um bom controle sobre ele, mas ainda assim, precisava de uma atualização sobre o que Chayka labareda de “sofreguidão algorítmica” e solicitei ao ChatGPT que me lembrasse o que Chayka quis manifestar com isso .
O resumo entregue pelo ChatGPT foi perfeitamente bom, preciso e não alucinatório, mas não consegui passar da noção que tinha na cabeça sobre a teoria de Chayka para um pouco útil na página por meio daquele resumo da teoria de Chayka. No final, tive que voltar e reler o material do livro em torno do concepção para colocar meu cérebro em ação de uma forma que me permitisse proferir um pensamento próprio.
Um tanto semelhante aconteceu várias outras vezes e comecei a me perguntar exatamente o que estava acontecendo. É provável que o meu processo de escrita seja idiossincrático, mas descobri que, para continuar a trabalhar, o problema de manifestar (espero) coisas interessantes e perspicazes no livro não era um resumo das ideias dos outros, mas a frase original dos outros porquê combustível para meu pensamentos.
Oriente maravilha pode estar relacionado com a natureza de porquê vejo a escrita, ou seja, a escrita é um processo contínuo de invenção onde tenho pensamentos iniciais que me levam à página, mas o acto de trazer a teoria para a página altera esses pensamentos iniciais. .
Tenho tendência a pensar que toda escrita, ou toda boa escrita, pelo menos, funciona dessa maneira porque é mal você saberá que está obtendo o resultado de uma lucidez única na página. O objetivo é desvendar um pouco que eu não conhecia, operando sob a teoria de que isso também trará um pouco novo para o público. Se o plumitivo não descobriu um pouco por si mesmo no processo, qual é o sentido de todo o manobra?
Quando procurei um LLM para obter um resumo e não encontrei utilidade para ele, percebi que estava interagindo não com uma lucidez, mas com uma verosimilhança. Sem uma particularidade humana interessante à qual me catrafilar, não consegui encontrar uma forma de envolver a minha própria humanidade.
Aceito que outros estejam tendo experiências diferentes ao trabalhar com grandes modelos de linguagem, que os considerem verdadeiramente generativos (desculpem o trocadilho). Ainda assim, pergunto-me o que significa encontrar uma faísca nas probabilidades generalizadas, em vez da lucidez um.
Acredito que digo muitas coisas interessantes e perspicazes em Mais do que palavras. Também estou esperançado de que posso estar falso em algumas coisas e, com o tempo, minhas crenças serão alteradas ao me expor às respostas dos outros. Oriente é o processo de informação e conversação, processos que não são uma capacidade de grandes modelos de linguagem, uma vez que não têm intenção de trabalhar nos bastidores de seu algoritmo.
Confiar no contrário é ceder a uma ilusão. Talvez seja uma ilusão útil, mas mesmo assim é uma ilusão.
As capacidades desta tecnologia são incríveis e aumentam sempre, mas para mimpara o meu trabalho, eles não oferecem muito significado.