Neviditelný pes
První český ryze internetový deník. Založeno 23. dubna 1996Diskuse k článku
VÁŽNĚ NEVÁŽNĚ: Reálné nebezpečí umělé inteligence
Upozornění
Litujeme, ale tato diskuse byla uzavřena a již do ní nelze vkládat nové příspěvky.
Děkujeme za pochopení.
|
J. Majzlík 27.9.2023 23:34Moje konverzace se systémem "UI" je založena na hledání mezí jeho spolehlivosti při řešení mezioborových úloh, přičemž je nutno mu zajistit formou zadání úlohy či dotazu rovnost šancí k tomu, aby se v předloženém tématu zorientoval a zadanou otázku nebo úkol mohl spolehlivě vyřešit. Předpokládám, že většinu monotématických zadání bude testovaná verze UI řešit poměrně úspěšně. Pokud se jí však do cesty připlete problém, k jehož řešení je potřebné zapojit určitou zkušenost nebo předvídavost, požádá Vás o další potřebná data. Po dodání těchto dat do systému se můžete dočkat správného řešení zadané úlohy. Je vcelku přirozené, že role tazatele, který od UI požaduje řešení určitého školního příkladu nebo požaduje vypracování úvahy na zadané téma je zcela odlišná od role potenciálního uživatele systému, který preventivně testuje jeho reálnou užitnou hodnotu. |
|
|
J. Jurax 27.9.2023 23:12Pletete si diplomku se seminární prací. Víte, diplomka se obhajuje. Ústně ... |
|
|
M. Pivoda 27.9.2023 19:42Než AI sama o sobě začne být nebezpečná pro lidi, to může ještě trvat relativně dlouho. Jenže v rukách jiného člověka, AI (dnes dominantní strojové učení) se může stát smrtelně nebezpečnou, již zítra. Jak? 1. Jako aplikovaná vojenská technologie, tj. drony, které vás (rozpoznáním vaší tváře) cíleně vyhledají a zabijí. 2. Jako prostředek zmatení lidstva. Lidstvo se nebude schopno vzájemně se na něčem domluvit a falešné zprávy na planetě Zemi již převáží nad seriózními zprávami. |
|
|
P. Vychodil 27.9.2023 14:39to vyzkouším. mužete mi uvést nějaký příklad, abych měl představu jak komplexní musí otázka být, aby UI "neprošel" ? |
|
|
J. Majzlík 27.9.2023 14:28Pokud se spolehlivost UI testuje na měkkých tématech, pak se její pátrání v databázích bude opět řídit většinovým principem a bude docházet k Vám pozorovanému posuvu. Do úzkých ji zavedete, až ji budete zadávat úlohy, které díky fungování přírodních zákonů (alespoň v dohodnutých podmínkách) mají jednoznačné řešení. |
|
|
R. Langer 27.9.2023 14:01Tak se to nás dělalo úplně běžně, takže ta diplomka byla většinou obhajobou několikaleté práce a spolupráce na reálných projektech. Proto se divím, že tady někdo plácá něco o "bezvýznamné ztrátě času". Možná jak na kterých školách. Na naší katedře by ho za to nakopali do prdele. Ale to bylo před cca 30 lety, to je taky fakt... |
|
|
R. Langer 27.9.2023 13:57A jak to jako souvisí s "odevzdáním X stran textu s předepsaným typem písma určité velikosti a určeným řádkováním"? Nechápu. |
|
|
R. Langer 27.9.2023 13:54A z čeho myslíte, že jako vychází ta umělá? |
|
|
P. Vychodil 27.9.2023 13:53Zkoušel jsem, a zkouším UI i v otázkách politicky zaměřených, z odpovědí je zřejmý posun (bias) k politické korektnosti USA/EU. A ano, po nápovědě koriguje svoje výroky. |
|
|
J. Roškota 27.9.2023 10:30Máte pravdu, vůbec nechápu obsesi nad diplomovými pracemi. Student má přeci za sebou roky studia, jeho vyučující jej znají a skládá závěrečné státní zkoušky. Neříkám, že by studenti neměli na závěr studia vykonat nějakou samostatnou odbornou činnost a sepsat o tom písemnou zprávu, ale v řadě škol to vypadá, jakoby vyučující studenta viděl až při obhajobě. Není to asi úplně přenositelné, ale, my studenti, jsme s naším budoucím vedoucím diplomové práce pracovali jako pomvědi ještě před posledním ročníkem studia a téma diplomky bylo spjato s výzkumnou prací vedoucího. Obhajoba diplomky pak byla taková spíš společenská událost. |
|
|
J. Roškota 27.9.2023 9:56Zdá se mi, že Astonův článek je způsoben nepochopením toho, co umělá inteligence vlastně je. Po tom co se nám v prohlížeči objevil chatbot najednou všichni věští konec civilizace. Ale AI je s námi již několik let a nikdo neměl pocit že jde o konec lidské rasy. Pomáhá nám velmi účinně zpracovávat velká množství dat. A není pravda, že v EU nejsou firmy nebo instituce, které do vývoje AI přispívají. Naopak, je jich spousta, jen je Aston nezná. Neviditelný pes je pro mne zajímavé okénko do světa mimo mojí sociální bublinu. To ale neznamená, že by zde neměli publikovat své články lidé kteří předmětu skutečně rozumějí. Chtělo by to nějakého redaktora. |
|
|
Z. Lapil 27.9.2023 9:38Témata podivná jistě občas jsou, ale vědě, i té okecávací, celkem ochotně přiznávám právo zkoumat, zda vyfukovanim tabákové dýmu do vody nevznikne zlato. Spíš mi vadí, že je až příliš často věda zaměřování za dojmologii. Aspoň mám ten dojem -:), ale ono to spíš bude tak, že kdejaký blogarsky jouda mající sám sebe za novináře naopak dojmologii označuje za vědu. |
|
|
J. Majzlík 27.9.2023 9:09Autor této okrajové poznámky vystavil systém UI kontrole spolehlivosti jeho postupů při řešení pěti poměrně jednoduchých, avšak dosti specificky zaměřených, snad dosti slušně definovaných úloh. Jejich společným námětem byl výpočet zadané úlohy nebo nalezení zdůvodnění výsledku určitého fyzikálního přechodového děje, proběhnuvšího v pevném nebo plynném prostředí. Na položené otázky odpovídá všeobecnými popisy dané problematiky, zpětnými dotazy a nepřímými odpověďmi. Po nápovědě obvykle potvrdí její správnost. Na přímé dotazy nedával přímé odpovědi. Víc se ve využití UI při řešení úloh, jejichž náměty leží mimo hlavní informační proud očekávat nedá. Chybí tomu tušení a hledání souvislostí mezi poznatky z různých oborů lidského poznání. Chová se zdvořile, děkuje za spolupráci. |
|
|
P. Sulla 27.9.2023 8:38Jo, a nejlepší strojový překladač DeepL je hádejte odkud...ano, z Kolína nad Rýnem. |
|
|
P. Sulla 27.9.2023 8:12Evropa není v umělé inteligenci až taková nula, jak to pravděpodobně z neznalosti líčí pan Neff. První autopilot úrovně 3 schválený pro provoz je od Mercedes Benz. Řidiči Tesly zatím musí mít při autonomní jízdě ruce na volantu. Pravda, čipy pro AI kupujeme od NVidie, ale litografické stroje pro výrobu těch čipů jsou od ASML z Holandska. A až Vám budou dělat MRT scan na stroji od Siemense, tak budete v rukou AI od polohování pacienta až po vyhodnocení scanu. |
|
L. Žaloudek 27.9.2023 7:32Pane Dvořáku, přestože přeháníte, máte v zásadě pravdu. Diplomová (ba dokonce bakalářská) práce je jen maketou - cvičnou napodobeninou - vědecké práce, která prokazuje metodické zvládnutí řemesla. Nejde jen o řádkování. Očekávat od ní nějaký vědecký přínos je nesmyslné, i když se to výjimečně může stát. Podobně je to s tématy: Kde mají chudáci studenti (a pedagogové) brát každoročně stovky nových témat? A přitom originální nápad je cennější než cokoli jiného! |
|
P. Dvořák 27.9.2023 7:22Špatná viditelnost? "Absolvent VŠ by přece jen měl osvědčit, že je schopen samostatné práce a něčemu opravdu rozumí." |
|
|
R. Langer 27.9.2023 7:13A k tomuto závěru jste došel jakým orgánem? |
|
|
K. Moravec 27.9.2023 6:31Obávám se, že v dohledné době vznikne nezisková organizace, která bude bojovat za práva umělé inteligence. Má-li svá práva příroda, proč by neměla mít práva i umělá inteligence? Třeba právo na inteligentní dotazy nebo volební právo v každé zemi, ve které nějaký občan pokládá AI nějaký dotaz :-). |
|
|
P. Dvořák 27.9.2023 6:19Blbost, bohužel, není umělá. Ta je zcela přirozená. Zato obsazování vysokých postů lidmi s přirozenou blbostí, je umělé.
|
|
|
P. Dvořák 27.9.2023 6:16Takže odevzdáním X stran textu předepsaným typem písma určité velikosti a určeným řádkování student "... osvědčuje, že je schopen samostatné práce a něčemu opravdu rozumí." |
|
|
R. Langer 27.9.2023 5:49Z umělé blbosti dostanete požadované výsledky jednoduše, informační cenzurou. |
|
|
R. Langer 27.9.2023 5:48Co je to za pitomost? |
|
|
R. Langer 27.9.2023 5:46Nemám naprosto žádnou obavu z umělé inteligence, ale mám velmi silné obavy z umělé blbosti, která by od člověka mohla být skutečně naprosto nerozeznatelná. Vlastně dnes už prakticky je. |
|
|
J. Jurax 27.9.2023 2:49Ptát se umělé inteligence je pošetilé. Něco by nakecala, ale nemusela by to být pravda. Se stejným výsledkem se lze ptát na ministerstvu či přímo ministra. Pravda, umělá inteligence je jenom blbá, takže neumí na rozdíl od ministerských úředníků, ministra a jeho náměstků politických i odborných, jestli takové odborné ministr má, vědomě mlžit a lhát. |
|
|
J. Jurax 27.9.2023 2:40Nesouhlas. Absolvent VŠ by přece jen měl osvědčit, že je schopen samostatné práce a něčemu opravdu rozumí. Rozhodně jejím vypracováním neztrácí čas. Domyšleno - to už byste mohl rovnou říct, že ztrácí čas studiem. Nestačilo by jenom, aby podal na děkanát žádost jaký diplom chce a po uhrazení správního poplatku by jej obdržel? To by ztratil ještě míň času! Ovšem připouštím, že někdy někde mi po mém soudu přijdou témata diplomek podivná ... |
|
|
M. Grundmann 27.9.2023 1:46Diplomové práce jsou nějakým historickým nesmyslem, který se však jen málokdo jako nesmysl odváží nazvat. Diplomové práce píše rozhodující většina studentů a dokonce i více než v minulosti. Někteří studenti ztrácejí čas diplomovou prací i několikrát kvůli rozdělení studia na bakalářské, magisterské a případně doktorské.
Rozhodující většina studentů nestuduje proto, aby se stala vědci. Diplomová práce by snad mohla mít smysl u architekta či podobné profese, u většiny profesí je však absolutní nesmysl. A místo zrušení tohoto nesmyslu tuto hloupost dnes naopak ještě rozšiřujeme. A divíme se, jak mizernou úroveň mají. |
|
|
J. Brunner 27.9.2023 1:33
|
