Původní článek: https://spot.colorado.edu/~tooley/ChatGPT
Autor: https://spot.colorado.edu/~tooley/
Když člověk poprvé položí ChatGPT otázku, může na něj velmi dobře, a zcela oprávněně, zapůsobit její odpověď, protože může obdržet odpověď, která je kromě odpovědi na vaši otázku také jasná a velmi dobře napsaná. Navíc, kromě toho, že odpověď ChatGPT zpočátku poskytuje stručnou odpověď, může také obsahovat další komentáře týkající se otázky nebo odpovědi, které poskytují užitečné, relevantní perspektivy.
Je tedy přirozené, že na vás ChatGPT zpočátku docela zapůsobí, protože je jasné, že umí velmi dobře psát a že často dokáže poskytnout přesné informace.
Když se však někdo zeptá v určitých oblastech, rychle se ukáže, že zatímco základní myšlenka použití obrovského množství složitých, trénovaných neuronových obvodů k dosažení něčeho s umělou inteligencí odvedla skutečně působivou práci a vytvořila něco, co umí psát, zatím to udělalo žalostnou práci, když vytvořilo něco, co dokáže myslet. ChatGPT je, jak se překvapivě ukazuje, slabomyslný, pokud jde o myšlení, a nezaslouží si proto označení „umělá inteligence“.
Bohužel to není jediný hlavní nedostatek ChatGPT, protože jak uvidíme níže, jeho výcvik musel být takový, aby mu nejen umožňoval chovat se nemorálním způsobem při odpovídání na otázky, ale nedokázal ho vycvičit, aby měl určité zásadní morální zásady. a intelektuální ctnosti, ale pozitivně ji přinutit chovat se nemorálním způsobem, když jsou kladeny otázky v určitých oblastech.
Pokud by se toto chování změnilo, ChatGPT by pak byl schopen odpovědět na zásadní otázky způsobem, který by lidem poskytl informace, které by jim pomohly hlouběji přemýšlet o řadě velmi důležitých problémů a přesvědčení. Výsledkem by bylo, že ChatGPT by přispěl k rozvoji osvícenější společnosti, což by bylo obrovským přínosem.