Luke 15: Eliza-effekten

Joseph Weizenbaum var en tysk-amerikansk forfatter, datavitenskapsmann og professor i informatikk ved MIT.

Rundt 1966 skrev han et dataprogram som regnes for å være verdens første chatbot, nemlig Eliza. Eliza imiterer stilen til en psykoterapeut og stiller oppfølgingsspørsmål når en pasient forteller om plagene sine.

Dataprogrammet stilte åpne oppfølgingsspørsmål basert på enkle regler ut fra enkeltord i spørsmålet. Joseph som selv hadde programmert ELIZA og visste hvor enkel og uintelligent den var, ble skremt av responsen han fikk fra personer som ønsket å prate med og få hjelp fra den maskinelle «terapeuten» hans.

Eliza har blant annet gitt navn til fenomenet «Eliza-effekten», som brukes om tendensen mennesker har til å tilskrive menneskelige egenskaper til datamaskiner med en gang de produserer noe som kan minne om noe et menneske ville ha gjort, selv om prosessen ikke har noe menneskelig ved seg.

Dette er årsaken til at han etter hvert ble en kritiker av kunstig intelligens. Han mente at AI aldri kunne erstatte menneskelig dømmekraft og empati, og han advarte mot å gi maskiner ansvar for beslutninger som krever menneskelig forståelse.

Dagens kodeord er navnet på boken Joseph Weizenbaum fikk utgitt i 1976, men erstatt ordet power med Dominance og ordet reason med Submission. Ikke nevn noe om erstatningene, bare gi meg den nye tittelen.