Jak všichni víte, jsem nadšenec GPT a integroval jsem je do všech aspektů práce a života. Ale GPT není všemocné. Musíme pochopit jeho podstatu, abychom mohli lépe využívat jeho schopnosti. Vřele doporučuji zasvěcený článek Teda Jianga „ChatGPT je rozmazaný obrázek veškerého textu na internetu.“ Jedinečné poznatky nutí k zamyšlení. Shrnul jsem 3 body, vítám vás k přečtení.

Ted Jiang je čínský spisovatel sci-fi, který vystudoval katedru informatiky na Brownově univerzitě. Jeho povídka „The Story of Your Life“ byla v roce 2016 adaptována do filmu „Arrival“. má jedinečný pohled na ChatGPT.

TL;DR

ChatGPT je ztrátová komprese veškerého textu na internetu Dávejte si pozor na „krásné rozmazání“ a „špatné vyjádření původních nápadů“ spíše než na „jasné vyjádření neoriginálních nápadů“ 1. ChatGPT je ztrátová komprese veškerého textu na internetu.

Pokud jsou všechny texty na internetu považovány za originály, s přihlédnutím k rychlosti a přesnosti zpracování je ChatGPT vlastně interaktivním rozhraním přirozeného jazyka po ztrátové kompresi těchto textů. Protože se jedná o ztrátovou kompresi, některé detaily a dokonce i klíčové informace budou vyřazeny.

Pokud jde o problémy, které ztrátová komprese může způsobit, autor uvedl názorný příklad: V roce 2013 německá stavební společnost zkopírovala plán domu a tři místnosti měly štítek, který označoval jejich plochu: 14,13, 21,11 a 17,42 metrů čtverečních. Pak v kopii jsou všechny tři místnosti označeny jako 14,13 m2.

Po vyšetřování bylo zjištěno, že kopírka Xerox funguje tak, že skenuje dokumenty do digitálních obrázků a poté je vytiskne. Kvůli úspoře místa používá skenování do digitálních obrázků ztrátový kompresní formát nazvaný jbig2. Kopírka určí, že štítky oblastí pro 3 místnosti jsou velmi podobné, takže uloží pouze jeden z nich a poté tento štítek znovu použije pro všechny 3 místnosti při tisku.

Kopírky Xerox používají místo bezztrátového formátu ztrátový kompresní formát, což samo o sobě není problém, když vytiskne jen rozmazanou fotku, každý pozná, že to není přesná replika originálu, ale kopírka vytiskne. jasné, ale nepřesné Obrázky mohou být pro uživatele zavádějící

Autoři se domnívají, že tento příklad je třeba mít na paměti, protože používáme ChatGPT od OpenAI a další podobné velké jazykové modely. ChatGPT uchovává většinu informací na World Wide Web, stejně jako JPEG uchovává většinu informací na obrázcích s vysokým rozlišením. Pokud ale hledáte přesnou posloupnost bitů, nemůžete ji najít, získáte pouze aproximaci.

Je vidět, že v nejnovějším hodnocení pravosti papíru OpenAI, přestože je GPT-4 mnohem vyšší než předchozí modely, stále existuje vysoká pravděpodobnost generování nesprávných odpovědí (zejména v oblasti technologie, kódu a obchodu), a musíme být opatrní.

2. Dejte si pozor na „krásné rozostření“

Naše chápání světa je v podstatě přijímáním a stlačováním informací. Identifikujeme a vyřadíme nedůležité informace, důležité informace necháváme za sebou, zatímco cvičíme a využíváme své rozhodovací schopnosti v procesu. Oba jsou ztrátovou kompresí informací Jak se lišíme od ChatGPT? - Naše komprese informací je založena na porozumění faktům a to, co nakonec zbývá, je "fuzzy správnost" - ChatGPT skutečně "nerozumí" informacím a výstupy jsou "krásné fuzzy" založené na statistických zákonech. Podívejme se na další 2 grafické příklady:

Pokud požádáte ChatGPT o výpočet 3457 * 43216, dostane špatnou odpověď 149299312 (správná odpověď je 149397712, protože existuje mnoho násobení čísel končících na 6 a 7, aby se ChatGPT naučil). opravdu nerozumí principům aritmetiky, takže nakonec byla dána špatná odpověď. Jakákoli analýza textu odhalí, že fráze jako „nedostatek nabídky“ se často objevují v blízkosti frází jako „zvýšení ceny“ Na otázku o nedostatku nabídky může AI odpovědět, že zahrnuje zvýšení ceny. Pokud umělá inteligence sestavila velké množství korelací mezi ekonomickými pojmy, tolik, že může poskytnout rozumné odpovědi na různé otázky, měli bychom říci, že skutečně rozumí ekonomické teorii? Zřejmě ne.

ChatGPT umí vytvářet krásné odpovědi, ale krásné ≠ správné. Toto musíme mít vždy na paměti, výstupy ChatGPT mohou být pěkné a jasné, ale nepřesné a jejich identifikace vyžaduje jejich srovnání s originály, jinak hrozí, že na základě vymyšleného obsahu učiníme chybná rozhodnutí. Odpověď generovaná bingem níže je typické „krásné rozostření“.

3. "Špatné vyjádření originálních nápadů" je lepší než "jasné vyjádření neoriginálních nápadů"

Je možné, aby text generovaný ChatGPT sloužil jako výchozí bod pro spisovatele při vytváření originálních děl, což by umožnilo autorům soustředit se na skutečně kreativní části? Autor se domnívá, že začínat s vágním, neoriginálním dílem není dobrý způsob, jak vytvořit originální dílo.

Pokud jste spisovatel, napíšete spoustu nepůvodních prací, než napíšete původní. Čas a energie vynaložené na neoriginální práci nepřijdou nazmar. Spíše je to to, co vám nakonec umožní vytvořit originální dílo, čas, který strávíte výběrem správných slov a přeskupováním vět, vás naučí, jak vyjádřit význam, který chcete vyjádřit svým psaním.

Nechat studenty psát eseje je víc než jen způsob, jak otestovat jejich zvládnutí látky, dává jim to zkušenost s vyjadřováním svých myšlenek. Pokud studenti nikdy nebudou muset psát o věcech, které všichni čteme, nikdy nezískají dovednosti, které potřebují, aby mohli psát o věcech, které jsme nikdy nečetli.

Bude možné po opuštění statusu studenta bezpečně používat šablony poskytované velkými jazykovými modely, jako je ChatGPT? Ale ne. Snaha vyjádřit se po absolvování nezmizí. Tento boj nastává pokaždé, když začnete psát nový článek. Někdy až v procesu psaní objevíte své původní myšlenky, a to je zásadní.

Někdo by mohl říci, že výstup velkého jazykového modelu se příliš neliší od prvního návrhu lidského spisovatele, ale to je pouze povrchní podobnost. Váš první návrh není „jasným vyjádřením neoriginální myšlenky“; ubohý pokus o originální nápad.“ Výraz,“ provází vás amorfní nespokojenost a uvědomujete si vzdálenost mezi tím, co říká, a tím, co chcete říct.

To je něco, co vás může vést při přepisování, něco, co vám chybí, když začnete pracovat s textem generovaným AI. Na základě „jasně vyjádřených neoriginálních nápadů“ se může stát, že lidé ztratí své nápady, počínaje „špatným vyjádřením originálních nápadů“ a jejich postupným vylepšováním nakonec získáte „přesné vyjádření originálních nápadů“. nefrit, pokud to není Originalita se jen rozšíří.

Shrnutí 2 body Take Away:

ChatGPT je ztrátová komprese veškerého textu na internetu To musíme mít stále na paměti a dávat si pozor na to, abychom „krásné rozostření“ nepovažovali za přesné informace, které ovlivňují úsudek a rozhodování špatné vyjadřování a zároveň zdokonalujte své vlastní vyjadřovací schopnosti, vybroušené do nefritu, trénujte představivost, rozhodovací a komunikační dovednosti a vytvářejte konkurenceschopnost, kterou stroje nemohou mít