Hmm….Går det att stänga av AI om vi skulle vilja?
Hur skulle en off-knapp konstrueras?
Hur skulle en offswitch fungera? Spara till disk? Wipe disk?
Lex Fridman pratar AI. Ingen reklam.
Eliezer Yudkowsky: Dangers of AI and the End of Human Civilization | Lex Fridman Podcast #368
YouTube
PODCAST INFO: Podcast website: https://lexfridman.com/podcast
Apple Podcasts: https://apple.co/2lwqZIr
Spotify: https://spoti.fi/2nEwCF8
RSS: https://lexfridman.com/feed/podcast/
Full episodes playlist:
• Lex Fridman Podcast
Clips playlist: • Lex Fridman Podca...
OUTLINE:
0:00 - Introduction
0:43 - GPT-4
23:23 - Open sourcing GPT-4
39:41 - Defining AGI
47:38 - AGI alignment
1:30:30 - How AGI may kill us
2:22:51 - Superintelligence
2:30:03 - Evolution
2:36:33 - Consciousness
2:47:04 - Aliens
2:52:35 - AGI Timeline
3:00:35 - Ego
3:06:27 - Advice for young people
3:11:45 - Mortality
3:13:26 - Love
Hur skulle en off-knapp konstrueras?
Hur skulle en offswitch fungera? Spara till disk? Wipe disk?
Lex Fridman pratar AI. Ingen reklam.
Eliezer Yudkowsky: Dangers of AI and the End of Human Civilization | Lex Fridman Podcast #368
YouTube
PODCAST INFO: Podcast website: https://lexfridman.com/podcast
Apple Podcasts: https://apple.co/2lwqZIr
Spotify: https://spoti.fi/2nEwCF8
RSS: https://lexfridman.com/feed/podcast/
Full episodes playlist:
• Lex Fridman Podcast Clips playlist:
• Lex Fridman Podca... OUTLINE:
0:00 - Introduction
0:43 - GPT-4
23:23 - Open sourcing GPT-4
39:41 - Defining AGI
47:38 - AGI alignment
1:30:30 - How AGI may kill us
2:22:51 - Superintelligence
2:30:03 - Evolution
2:36:33 - Consciousness
2:47:04 - Aliens
2:52:35 - AGI Timeline
3:00:35 - Ego
3:06:27 - Advice for young people
3:11:45 - Mortality
3:13:26 - Love
Intressant kanske.
""Reklamfolk brädas av AI-system
Kinesiska företaget Blue Focus kommer att använda ett AI-system för att göra reklam, enligt nyhetsbyrån Bloomberg.
Enligt ett internt nyhetsbrev ska varken frilansande copywriters eller grafiska designers användas längre, utan deras arbetsuppgifter ska utföras av ett ChatGPT-liknande AI-system."" //Aftonbladet
""Reklamfolk brädas av AI-system
Kinesiska företaget Blue Focus kommer att använda ett AI-system för att göra reklam, enligt nyhetsbyrån Bloomberg.
Enligt ett internt nyhetsbrev ska varken frilansande copywriters eller grafiska designers användas längre, utan deras arbetsuppgifter ska utföras av ett ChatGPT-liknande AI-system."" //Aftonbladet
Kommer vi att få bättre reklam nu? 
Ska man skylla på modellen, indata som den tränats med, eller data som AIn gav för uppdraget?B b8q skrev:
Vad händer med andra kreativa ”branscher”?
Är, eller när är, AI art stöld?
Är det okay att scanna hela Pinterest för att lära upp en artAI robot?
(Lenas AI, en selfie avatar app)
”First, there’s the broader problem of Magic Avatars being built using a dataset trained on the work on non-compensated artists. Next, it uses the images submitted to train its A.I. and, as stated in its privacy policy users grant the company a right to “use, reproduce, modify, adapt, translate, create derivative works” in perpetuity and royalty-free.”
“This is not a filter or an effect,” Prisma Labs explained via Instagram. “These A.I. avatars are generated from scratch but with your face in mind.”
https://news.artnet.com/art-world/lensa-ai-magic-avatars-prism-labs-2224239
Har kört några frågeställningar i GPT 4 och min slutsats är att den största faran med AI:n är att den frekvent levererar fel svar. Nu ställer jag frågorna på svenska vilket iof minska träffsäkerheten något. AI levererar långa och utförliga svar vilket ger intrycket att den verkligen vet vad den talar om.
Exempel 1. Jag frågade hur mycket ljusinsläppet ökar i en kamera om man ökar ett bländarsteg. Svaret blev (rätt) att det dubblas. Men den skrev också att en förändring av bländaren med 1 steg ger en förändring av ljusinsläppet med roten ur 2 (fel) och dessutom en uppenbar motsättning. Det som AI missade (tror jag) är att bländarens diameter förändras med roten ur 2 men det betyder att öppningsarean förändras med faktor 2.
Exempel 2. Jag bad den räkna ut hur mycket vatten som avlägsnades i en avfuktningsprocess med tillgång till alla relevanta värden. Igen ett mycket lång och välformulerat svar med fel med faktor 1000. Den klarade inte av att gör korrekta omvandlingar från tex m3/timme till kg/s eller nått sånt.
Exempel 3. Jag frågade vem som skrivit en viss (ganska okänd) bok och fick författare och illustratör, båda fel. Vidare skrev den att boken var självbiografisk och hade hjälp många människor i liknande situation. I själva verket är det en humoristisk bok för barn.
Exempel 4. Jag frågade vilka intervall som gäller för revisionsbesiktning av hissar i Sverige. Mycket detaljerat svar men genomgående fel.
Exempel 1. Jag frågade hur mycket ljusinsläppet ökar i en kamera om man ökar ett bländarsteg. Svaret blev (rätt) att det dubblas. Men den skrev också att en förändring av bländaren med 1 steg ger en förändring av ljusinsläppet med roten ur 2 (fel) och dessutom en uppenbar motsättning. Det som AI missade (tror jag) är att bländarens diameter förändras med roten ur 2 men det betyder att öppningsarean förändras med faktor 2.
Exempel 2. Jag bad den räkna ut hur mycket vatten som avlägsnades i en avfuktningsprocess med tillgång till alla relevanta värden. Igen ett mycket lång och välformulerat svar med fel med faktor 1000. Den klarade inte av att gör korrekta omvandlingar från tex m3/timme till kg/s eller nått sånt.
Exempel 3. Jag frågade vem som skrivit en viss (ganska okänd) bok och fick författare och illustratör, båda fel. Vidare skrev den att boken var självbiografisk och hade hjälp många människor i liknande situation. I själva verket är det en humoristisk bok för barn.
Exempel 4. Jag frågade vilka intervall som gäller för revisionsbesiktning av hissar i Sverige. Mycket detaljerat svar men genomgående fel.
Folk behandlar systemen som orakel när man istället borde se dem som tänkande maskiner. Givet bra ingångsvärden är de mycket mindre benägna att hitta på än om de helt enkelt inte vet. Och de kan inte räkna. Det är en begränsning man bör vara medveten om.
Bad GPT att skapa en originell drink inspirerad av Negroni, fick ett helt OK resultat, först för söt visserligen sa bad den justera och efter det bättre. Julkryddig så kommer nog köra den som juldrink nån gång.
Kanske bättre användningsområde än något mer kritiskt, just nu.
Om man kan ämnet kanske det kan vara bra att få tips om hur man ska formulera ett svar, rapport etc. dock.
Ställer en fråga, verifierar att det är korrekt och sedan kan använda delar av svaret för att formulera sig.
Utvecklingen kommer nog gå snabbt på vissa områden. Som ovan där den hade svårt med matematiken. Tänk att man kombinerar AI'ns förmåga att förstå vad man vill genom lite resonemang i klartext med Volfram Alpha för uträkningen i bakgrunden.
Eller en specialiserad på juridik som kan ta fram enklare juridiska dokument. Man kanske inte vill ha den helt fritt, men en jurist kan kanske snart hantera 10-20 ggr så många ärenden som idag med hjälp från AI?
Tydligen ska man på vissa håll nu inte längre anställa programmerare för mer basala uppgifter utan dessa sköts av AI som sen verifieras av mer erfaren programmerare. (Frågan är dock hur man ska få återväxt av erfarna programmerare om man aldrig anställer någon nybakad).
Läste översiktligt om AI som diagnostiserade bättre än läkare i snitt. Tänk att kunna få en sådan hjälp på vårdcentralen, man matar in symptom, tar lite prover, och man får diagnos träffsäker som om det vore från den främsta 1-procenten av läkarkåren internationellt. Inte en trött landstingsläkare i bottenskiktet.
Kanske bättre användningsområde än något mer kritiskt, just nu.
Om man kan ämnet kanske det kan vara bra att få tips om hur man ska formulera ett svar, rapport etc. dock.
Ställer en fråga, verifierar att det är korrekt och sedan kan använda delar av svaret för att formulera sig.
Utvecklingen kommer nog gå snabbt på vissa områden. Som ovan där den hade svårt med matematiken. Tänk att man kombinerar AI'ns förmåga att förstå vad man vill genom lite resonemang i klartext med Volfram Alpha för uträkningen i bakgrunden.
Eller en specialiserad på juridik som kan ta fram enklare juridiska dokument. Man kanske inte vill ha den helt fritt, men en jurist kan kanske snart hantera 10-20 ggr så många ärenden som idag med hjälp från AI?
Tydligen ska man på vissa håll nu inte längre anställa programmerare för mer basala uppgifter utan dessa sköts av AI som sen verifieras av mer erfaren programmerare. (Frågan är dock hur man ska få återväxt av erfarna programmerare om man aldrig anställer någon nybakad).
Läste översiktligt om AI som diagnostiserade bättre än läkare i snitt. Tänk att kunna få en sådan hjälp på vårdcentralen, man matar in symptom, tar lite prover, och man får diagnos träffsäker som om det vore från den främsta 1-procenten av läkarkåren internationellt. Inte en trött landstingsläkare i bottenskiktet.
Bättre än gpt3.5 och tidigare men inte väl. Vill man mer än så är det bättre att använda en miniräknare (låta den använda en miniräknare).
Allvetare
· Västra götaland
· 8 931 inlägg
Står G i GPT för "guess" eller?
Använder AI själv en del för att generera kod. Det blir dock ofta lite fel. Mest används gamla ramverk, och koden blir onödigt komplicerad. För rätt saker är det dock bra. Och som många upptäckt, man måste veta en del för att förstå att svaret från AIn är felaktigt. Att idag låta chat-gpt skapa kod och sen rätta sina egna buggar tills man har något körbart leder till en riktigt skön kodsoppa för det mesta.engs skrev:
I likhet med många användare här power-googlar den ju i princip bara frågan och presenterar svaret i form av självsäkert påstående.Står G i GPT för "guess" eller?
Just den entonigt självsäkra attityden tycker jag själv är en rätt allvarlig brist i en annars väldigt imponerande implementation. Det är ju faktiskt något som går att hantera.
Lite som vi var inne på i början på tråden. Nya AIn/Automatiseringar/maskiner hypas alltid i början och alla ska förlora jobbet och det nya kan lösa alla världens problem. Sen ser man begränsningarna och förstår att det bara är ett ytterligare steg till effektivisering när det används på rätt sätt av kompetenta personer. Det kommer leda till ökad produktivitet och nya typer av jobb men det kommer inte automatiskt leda till massarbetslöshet och att inte kompetens är värdefullt.
Sen kommer modellerna att utvecklas över tid men det behövs antagligen åratal av positiv/negativ förstärkningsträning av riktiga människor som gör modellerna mer och mer träffsäkra inom varje specialområde.
Även lagstiftning/reglering kommer komma in och stoppa att allt möjligt data samlas in för att ge nya resultat som ger intrång på patent/immateriella rättigheter. Men företag kan säkert använda tekniken internt på sitt eget data för att skapa nytt utan att använda andras arbete.
Sen kommer modellerna att utvecklas över tid men det behövs antagligen åratal av positiv/negativ förstärkningsträning av riktiga människor som gör modellerna mer och mer träffsäkra inom varje specialområde.
Även lagstiftning/reglering kommer komma in och stoppa att allt möjligt data samlas in för att ge nya resultat som ger intrång på patent/immateriella rättigheter. Men företag kan säkert använda tekniken internt på sitt eget data för att skapa nytt utan att använda andras arbete.