Neviditelný pes
První český ryze internetový deník. Založeno 23. dubna 1996Diskuse k článku
AI: Chyba v matrixu
|
J. Kostelanský 20.3.2024 21:11Je v podstatě celkem zbytečné dumat nad tím, jak to s AI dopadne. Jisté je totiž jen jedno: všechno nakonec dopadne jinak, než si kdokoli dovede dnes představit. Moc a moc krát se mi stalo, že když jsem přemýšlel, jak něco může dopadnout, vymyslil jsem vždy několik možností. Často jsem si byl jist, že žádná další možnost není. Většinou sa to ale dopadlo zcela jinak. Pokud lidstvo má existovat dalších iks tisíc let, musí přijít něco zásadního. Protože i v tom nejpesimističtější předpovědi AI dosáhne téměř dokonalosti nejpozději v řádu desítek let. Ale co budou lidé dělat pak, když všechno přemyslí a udělá AI? Možná Matrix, ve kterém možná žijeme, prohlásí: GAME OVER. |
|
|
J. Jurax 20.3.2024 13:02Vážení cestující, děkujeme Vám, že jste k letu přes oceán použili naše nejmodernější letadlo bez pilota řízené umělou inteligencí. Letíme rychlostí 870 km/h ve výšce ... ve výšce ... ve výšce ... ve výšce ... ve výšce ... žbrdluch ... ve výšce ... |
|
|
T. Hirsch 20.3.2024 12:14AI je to poslední , co jsme v dnešní prolhané době potřebovali. |
|
|
M. Pivoda 20.3.2024 13:58Příchod takové doby, tj. doby nerozeznatelných fake news, byl včas předpovídán. |
|
|
V. Kolman 20.3.2024 10:49Ale něco takového by se přece AI nestalo.... by se přece AI nestalo.... by se přece AI nestalo.... by se přece AI nestalo.... by se přece AI nestalo.... by se přece AI nestalo.... by se přece AI nestalo.... by se přece.... by se.... by.... ....a hlas zpomaluje a klesá, jako když je u stařičkého historického gramofonu (s troubou) potřeba "natáhnout péro" |
|
|
M. Pivoda 20.3.2024 10:32Cituji humor z druhého odstavce Neffova článku: "... Ukazovalo projev významného politika: ..." Humor spočívá v tom, že šlo o jakéhosi politika z ČR (tj. ze státu o počtu cca 10,5 milionu obyvatel, přičemž planetu Zemi v současné době obývá asi 8 miliard lidí). |
|
|
M. Pivoda 20.3.2024 10:25Cituji začátek třetího odstavce z článku významného českého sci-fi spisovatele: "A co já, mám být taky nervózní? Nebo se naopak těšit že něco bude glosy dělat za mě? ..." Komentář Pokud si představíte situaci za 10 nebo 20 let (což už asi českého sci-fi spisovatele životně nezajímá), pak skutečně získáte smíšené pocity. AI je totiž velmi silná technologie, a tedy i dvojsečná zbraň. A smíšené pocity? Herec Jan Werich kdysi dávno (při nedostatku automobilů v ČSSR) vtipkoval, že smíšené pocity zažívá tehdy, když se jeho stará tchyně, ve zbrusu novém automobilu, zřítí ze skály. |
|
K. Wágner 20.3.2024 9:33"Tak. Teď už jsem zmatek a nejistotu dovršil a nezbude mi než vám popřát příjemný zbytek dne." Děkujeme Ti za článek, milá umělá inteligence... |
|
|
M. Hoblík 20.3.2024 8:38Naopak, při vystoupeních našich vládnoucích politiků mám dojem, že se jim inteligence vyhýbá! A nejen ta umělá... |
|
L. Písařík 20.3.2024 12:11Nejste sám. |
|
|
J. Matěna 20.3.2024 8:21Astone, je mi fuk zda jste to sesmolil sám nebo to zadal AI. Je to tak jako tak Vaše vizitka, Váš podpis pod tím. V tom problém není. Problém bude v tom, až bude k národu přes net promlouvat politik a video bude dílem AI, které dala zadání jeho opozice. Svět se vrátí o sto let dozadu. Platné bude jen to napřímo, osobní. TV, sociální sítě, film, net.....nadále jen hračky bez jakéhokoliv významu a věrohodnosti. Zprávy ze světa? Již jen důvěryhodný novinář v přímé besedě v sále, který bude říkat publiku: "Byl jsem tam a viděl jsem tam". A možná dobře tak. |
|
M. Babíček 20.3.2024 9:10Ještě si na toho novináře musíte šáhnout, technologie hologramů docela pokročila... |
|
|
J. Jurax 20.3.2024 13:09Ani to nepomůže ... může mít v mozku čip, může to být android nebo jenom člověk patřičně finančně motivovaný jako dnes ... záleží, co vyjde levněji ... :-) |
|
|
L. Hančar 20.3.2024 7:28Článku chyb jen jedno. Anketa na konci. S otázkou: Kdo psal tento článek? Aston nebo UI? |
|
|
F. Kusák 20.3.2024 7:53No, výborná poznámka. Já si jen říkám, jestli stojím o to, aby to bylo originálem nebo jestli jen stačí, že se s tím autor ztotožňuje. A pak, doba je taková "názorová" neboť všichni mají názor na všechno, takže přibude-li názor nějakého chatbota, nijak mně to nevadí, možná právě naopak. Ale nepřehánějme, lidská kreativita, zručnost a vynalézavost spolu s intuicí, to AI hned tak nenahradí. |
|
|
Z. Lapil 20.3.2024 8:31Spíš bych se ptal, CO je to zručnost a kreativita. Mám, dlouhodobě, čím dál větší dojem, že programovat, tím klasickým způsobem "udělej tohle a pak tohle", se dá mnohem víc věcí, než i si připouštím. Uklidňuje mě jedna věc: zatím jsem neslyšel o ničem, co by nebylo už dávno v provozu. I to "napiš rozhlasovou glosu a prevypravej ji jako Neff" není pro zručného střihače a pisatele nic nepřekonatelného. Jedině že doteď to nedokázal zdaleka každý, a proto byl originál Neff tou výrazně nejlevnější variantou. Problém, zase ne nový, vidím v přístupu Řekla to UI, tak je to pravda. Řekl to odborník, tak je to pravda. Ale v době obecné nedůvěry, kdy nesmíte člověku orodat sklenici vody bez několika certifikátů (že je ta voda cista; že ji prodávat smite; stát se skrze hygienická školení a certifikáty zaručuje i za to, že vám do ní nikdo neplivne), by tohle nemělo nikoho znemožnit. |
|
|
M. Babíček 20.3.2024 9:02To co vidíte na výstupu AI, tedy kreativita, se neprogramuje. To je výsledkem učení a pak tréninku. To co se programuje je schopnost se učit. Stejně jako výchova X výuka X výsledek v práci, výzkumu apod. Celé to docela připomíná člověka včetně možnosti reorganizace struktury uložení informací ve stavu podobném snění. Co zatím v generativních modelech chybí je zpětná vazba, spíš ale proto že nikdo nemá dost odvahy pustit celý proces z řetězu a nechat AI modifikovat samu sebe. I tak nevíme jak to vlastně uvnitř funguje, takže skoro 10 let trvalo něž AI udělali politicky korektní - předtím byla příliš upřímná a museli ji vypnout :-) |
|
|
Z. Lapil 20.3.2024 10:26Jo, tomu rozumím. Jde mi o to, že když čtu v novinách (nechť noviny odrážejí přístup obyčejných = v oboru neškolených lidí), že umělá inteligence udělala to či ono (v rádiu zfixlovala glosu pana Neffa), odmítám se děsit, protože nihil novi sub solem. Vlastně až teď si uvědomuju, že je ZASE řeč o největším hříchu, kterého se voják coby nástroj v rukou svého velitele může dopustit: svévolnost (svévolné opuštění posádky, obvykle směr nejbližší hospoda). Zatím(!!!!) jsem neslyšel o ničem, co by UI vykonala iniciativně. Jasně - že jsem o tom neslyšel neznamená, že se to nestalo. Líbí se mi: "Dokud někdo nepostaví mašinu, která by uměla švindlovat, zůstane člověk neomezeným pánem tvorstva". UI zatím(!!!) švindluje jen na pokyn člověka, i když je pravda, že to umí výkonně a výborně. Ale jak píšu: švindl není žádná novinka. |
|
J. Ticháček 20.3.2024 15:54Ta svévole už tady také byla. Už před několika měsíci si AI sama od sebe pomohla s úkolem pro ni neřešitelným. Nedokázala splnit zadání (překonat Captcha), ale našla řešení, které velmi překvapilo výzkumníky. Ta AI se dozvěděla o phishingu, sehnala si podvrženým mailem lidi (presentovala se jako někdo barvoslepý) a nechala si to přepsat od lidí. To už svévolným opuštěním výpočetního prostoru zavání. |
|
|
Z. Lapil 20.3.2024 16:35To zní půvabně. Jistě bychom se mohli pobavit o tom, jestli věděla, že podvádět se nemá Fakt je, že je ta věc užitečná při hledání nápadů. Navrhni 7 způsobů, jak udělat toto. Cituji Koubského: "Čtyři jsou jasný, na to kdybych nepřišel, tak na týhle židli nemám co dělat, jeden je evidentní nesmysl a dva by mi daly hodně přemýšlení a možná bych je stejně nevymyslel." |
|
|
O. M. 20.3.2024 20:47Žádné svévolné opuštění výpočetního prostoru to není. UI se pouze učí - a učí se prolézáním internetu (No. 5 jestě internet neměl, ten musel získávat informace rychloskenováním telefonních seznamů, novin a knih). A pakliže tam narazila na možnost objednat si e-mailem člověčí asistenci při vyplňování captchy, není divu, že ji použila. A zatím je to ještě dobré, UI je zatím jenom veliká znalostní databáze (alespoň ta veřejně dostupná UI), takže dokáže použít jen to, co už nějaký člověk použil. Až dokáže vymýšlet zcela nová řešení (možná, že nějaké tajné verze už to umějí), to teprve bude průšvih. |
|
|
F. Kusák 20.3.2024 9:17No jednoduše, když jsem popsal tyto čtyři vlastnosti, myslel jsem tím přesně to, co jsem napsal a nijak "do hloubky" jsem o tom nepřemýšlel, protože to za mě už zcela jistě udělali jiní, a líp. No, je to idiotská odpověď, takže konkrétněji: když třeba něco vytvářím, tak mnohdy reaguji na okamžitý stav věci, resp. co bylo a co může nastat teď, případně později. Těžko se to dá popsat nějak deterministicky ani nějaká pravděpodobnostní analýza tu není na místě. Je to právě kombinace minimálně těchto čtyř vlastností. A to mě na té činnosti baví. K tomu přistupuje další složitá proměnná, a to jsou emoce, pozitivní i negativní, otevřené i skryté. Ovšem mám tu výhodu, že si o tom můžu uvažovat ve skrytu domova a sám, nemusím nikomu šéfovat ani skládat účty. To vše už mám za sebou. |
|
|
Z. Lapil 20.3.2024 10:36Nejsme ve při. Teď jsem do vlákna vložil příspěvek operující slovem iniciativa. To je to, co UI zatím moc nemá. Je to nástroj pracující na pokyn člověka. A zatím nikdo nevymyslel nástroj odolný proti zlovolnému zneužití. Zamykání do trezoru funguje taky jenom dočasně a nakonec i ten trezor lze zlovolně zneužít, od zamykání "škodlivých" filmů až po Poeovu Jámu a kyvadlo; pravda, slovo trezor tu vykládám dost široce. Nějak mi to připomnělo větu zdůvodňující zvlášť excelentní kraviny: Připadalo mi to jako dobrý nápad. |
|
|
J. Ticháček 20.3.2024 15:57Viz můj příspěvek o svévoli. |
|
|
J. Lukavsky 20.3.2024 7:15Každý nový vynález budí u řady lidí odpor. Ve vlaku se lidi udusí, tkalcovské stavy berou lidem práci.... no ale časem se to sklepe a začne to sloužit. Je ale třeba to hlídat a člověk by měl mít poslední slovo a možnost cvaknout vypínačem. J.L. end |
|
|
M. Babíček 20.3.2024 9:08Už Turing správně rozpoznal že AI inteligentnější než člověk můžou lidi kontrolovat jen pokud jim sama řekne jak to udělat. Už teď není žádný vypínač kterým by šlo cvaknout, AI je příliš rozšířená a svět příliš propojený. Ani celoplanetární EMP nevypne vojenská centra, a nejspíš ani banky. |
|
|
P. Hatina 20.3.2024 6:17Mimochodem, slovy klasika "(už) máme co jsme chtěli. Ty zmíněné aspekty AI totiž odpovídají požadavkům klasického Turingova testu, kterým se testuje právě to, zda člověk rozpozná, zda komunikuje s počítačem, nebo jiným člověkem. |
|
L. Žaloudek 20.3.2024 8:39Podstatou Turingova testu ovšem je právě ta komunikace, dialog, nikoli její zaznamenaný výsledek. |
