Diverse OpenAI - sjukt imponerende AI

[jane]

Helseråd fra KI bør du ikke stole på, ifølge ny studie: – Verre enn jeg hadde fryktet

Det er populært å spørre KI-chatboter om råd om sykdom og helse. Men svarene er ofte villedende.

www.forskning.no

Høres ut som en helt vanlig fastlege.
Svarer ofte på noe helt annet enn hva det ble spurt om og hallusinerer i vei om ting som opptar ham selv. Mange av rådene vil jeg også kalle problematiske fordi de er generelle og tilpasset gruppenivå og ikke til min person, mine ønsker eller behov, hvis de i det heletatt har noe med problemstillingen å gjøre.
Og når jeg tenker meg om, så er det veldig lenge siden, enn om noen gang, fastlegen har kommet med litteraturhenvisninger eller annen håndfast dokumentasjon.
Ofte mistenker jeg ham for å ha kokt i hop behandlingsforslagene i sitt eget hode ut ifra egne antagelser, økonomiske fordeler, fordommer og noen kjepphester, og det bør vi jo stole på.

 

[weld77]

Har nå hatt et lite prosjekt gående på jobben med tung bruk av Claude. Det er ikke rakettforskning og langt fra en stor app men det er en kodebase på ca fire tusen linjer , spredt over 10 kildefiler. Må si det er ekstremt imponerende hva den får til og hvor villt tidsbesparende det kan være. Fra en kravspekk i løs prosa til noe som funker bra har det vært overraskende lite jeg har måttet endre på. Det ble ikke riktig på første forsøk og jeg kjenner domenet temmelig godt så det var jeg som identifiserte de prinsipielle feilene men claude fikset de greit når jeg påpekte hva som var galt. Koden som generes (Python) er også mye mer robust, layouten og arktitekturen langt bedre og kodestilen betydelig mer konsistent enn hva jeg gjør.

Jeg skal som nevnt tidligre på ingen måte skryte på meg å være en god programmerer. Jeg kan en del men har ikke fått betalt for det på over 20 år og var den gang da særdels junior.

Som det alltid er, i alle fall for meg, dukker det opp en del ting underveis jeg hadde glemt eller oppdager og så må ting veves inn, det skapte etter hvert litt problemer og da jeg bad Claude om hva den ville gjort dersom den fra børjan visste alt den nå vet ang dette konkrete prosjektet så omorganiserte den koden, logikkflyten, lagde enhetlige dataformater osv for de ymse tingene jeg ville ha gjort og det funket fint på første forsøk.

Dette involverte optimering og jeg ble skikkelig imponert av å se "tenkingen" som forgitt underveis, det var vurdering av et par aktuelle python-biblioteker, test på stadig større datamengder, fant ut at ytelsen var uakseptabel, omformulerte problemet til noe som kunne løses med mye raskere algoritmer, den sjekket selv en del edge-cases der tidskomplesksiteten og minnebruken kunne eksplodere og fant løsninger på det og så burtetter.

Jeg estimerer at jeg ville brukt minst 50 ganger så lang tid på dette selv og det å leie inn en vanlig konsulent til å gjøre noe slikt ville sikkert kostet en svært stor bunke tusenlapper. Nå gjorde jeg det selv innimellom andre arbeidsoppgaver og claude-kostnaden for det er nesten ingen ting.

 

[palmaris]

Det eg liker med Claude er at den kan setja saman presentasjoner, kurs og tekstar på ein god måte på uendeleg mykje kortare tid enn meg sjølv. Faren vil eg tru for mange er at dei ber Claude gjera noko dei ikkje har kunnskap om og soleis manglar mogelegheita til å plukka opp feil. Då vert du fort avkledd...

 

[weld77]

Det eg liker med Claude er at den kan setja saman presentasjoner, kurs og tekstar på ein god måte på uendeleg mykje kortare tid enn meg sjølv. Faren vil eg tru for mange er at dei ber Claude gjera noko dei ikkje har kunnskap om og soleis manglar mogelegheita til å plukka opp feil. Då vert du fort avkledd...

Ja det er jo alltid risken med slikt. Det som, i alle fall i teorien, gjør det ganske egnet til programmering, dataanalyse og slikt er at man kan ha en god formening om hva som er korrekt svar. En litt perifert bekjent som har jobbet som ordentlig programmerer i lang tid sier de (selvsagt) har testet det ganske omfattende på jobben hans men at det når det etter hvert dukker opp problemer kan det være vanskelig å fikse det siden man ikke har den samme forståelsen for hva koden faktisk gjør om man ikke har skrevet den helt selv.

Har også brukt det en del til ting som i seg selv ikke er særlig vanskelig men det tar jo sin tid å skrive koden for å gjøre det og da er det behagelig å bare kunne be om en funksjon som gjør ditt-eller-datt og man får noe som funker i løpet av et par-tre sekunder. Som et litt dustete eksempel er grisete IF-setninger i excel eller litt komplekse where-klausuler i SQL (databasespørringer) der ting konseptuelt er enkelt men det er fort gjort å rote seg bort i mye paranteser og hvor disse skal være og ikke minst få det pent formattert.

Ellers, som det har stått om i avisene en del i det siste, er det ikke vanskelig å se hvorfor dette har rimelig stor innvirkning på typiske startjobber i en del bransjer. Det er ganske mye man gjør som nyansatt som kan være varianter av "grunt work" - alle skjønner jo at man må starte et sted, men dersom mye av dette kan outsources til en KI-modell som jobber billig, døgnet rundt, ikke skal ha foreldrepermisjon og ikke har sykefravær så er det jo fort fristende å i alle fall delvis erstatte vanlige ansatte. Dersom dette virkelig brer om seg kommer det til å bli blodbad i en del bransjer vil jeg tro. Den opplagte innvendingen er at det etter hvert kan bli mangel på erfarne seniorer, men erfaringsmessig er det ikke noen som vil ta på seg ansvaret for å gjøre noe med det - har eksempelvis vært en del murring om at også det offentlige i stadig større grad spesifiserer folk med en del erfraring. Det er forståelig, men konsekvensene burde ikke være veldig vanskelig å se. Nesten som man er litt glad for at man nærmer seg et halvt århundre på jorden.

 

[PeriodeLytter]

En sak jeg er blitt glad i på Github web er å be den innebygde Copiloten om å analysete prosjekter og gi en oversikt over programflyt. Hvor den systematisk lister hvordan funksjoner blir kalt med kodelinjer hvor viktige endringer for programflyt tar plass. Helt genialt om man kløner med åpen kildekode og ønsker endre småting til eget bruk. Eller bare forstå hvordan koden fungerer.

 

[PederP]

USA stenger tilgang til avansert KI

KI-forsker Michael Alexander Riegler kaller det en vekker.

www.digi.no

 

[Harry Stoteles]

Bruker Mistral til en småjobb nå og må si jeg liker den mye bedre enn ChatGPT. Mistral er europeisk og føles dermed mer komfortabel å bruke.

 

[morbid]

AI er et veldig kjekt verktøy, men man burde også reflektere over bakdelene før man går all in

Agentic Coding is a Trap | Lars Faye

Remaining vigilant about cognitive debt and atrophy.

larsfaye.com

 

[PederP]

Nvidia får ein konkurrent.

Tensordyne's Wild Log Math Aims to Leave Nvidia’s AI Chips In the Dust

The startup uses logarithmic math to speed up inference

spectrum.ieee.org

 

[bambi]

 

[PeriodeLytter]

Beato glemmer at om vi alle skal lage våre egne mini datasentre til å kjøre svært begrensede LLM på blir nok verken SSD, RAM eller GPU noe rimeligere i nær fremtid

 

[PederP]

Hvordan skal vi takle KI?

Hvordan unngå å bruke KI sånn at hjernen din visner hen? Her får du fem tips fra ekspertene.

www.nrk.no

 

[PederP]

KI kan ikke overta alt skrivearbeidet

KRONIKK: Vil utbredt bruk av store språkmodeller i vitenskapelig skriving svekke forskernes kritiske tenkning?

www.forskersonen.no

 

[weld77]

Markedsverien av Google er ned rundt 6% i dag eller ca 255 milliarder dollar - til sammenligning er markedsveriden til Equinor ca 85 milliarder dollar og DNB ca 50 milliarder dollar. Begrunnelsen er at Nobelprisvinner John Jumper - sentral innen AI-delen til selskapet takker for seg og starter hos Anthropic (de som står bak Claude).

Kanskje man skulle ha det som mål her i livet - å bli så hot at når man slutter i jobben så faller verdien til arbeidsgiver med et 2-3 tusen milliarder kroner.

 

[PederP]

 

[Mar-a-Lago Club]

Laura drives a taxi. Instead of charging her customers a fee for every ride, she charges them a $20/month subscription. Laura has 40 million paying customers, totaling roughly $13 billion in annual revenue. Laura spends $25 billion/year on gas. In a fit of late-capitalist bloodlust, hordes of tech and finance bros riot in the streets, firebombing every rideshare, bus, and pedicab they can find, declaring the transportation business officially “over.” Also, Laura’s taxi cost her $1 trillion to attain, and she’ll have to replace it in four to eight years.

AI Economics for Dummies

“Xavier owns an apartment that he rents out at a loss of $1 billion/month. Seeing this success, he decides to make financial commitments to construct $850 bi...

www.mcsweeneys.net

 

[PederP]

På enkelte felt fungerer det imponerande bra.

AI Learns the "Dark Art" of RF Chip Design

Freed from intelligibility and aesthetics, AI designs faster

spectrum.ieee.org

 

[PederP]

Privatlivet på veg ut???

Can AI Learn to Read the Room?

Tech that senses human emotions is becoming aware of context

spectrum.ieee.org

 

[PederP]

Og det koster...

Datasentre bruker like mye strøm som Frankrike – og snart mer vann enn Afrika

KI og datasentre har glupsk appetitt på energi og vann, viser rapport.

www.forskning.no

 

[Harry Stoteles]

Unheimlich. Det er følelsen jeg har nå. Jeg har matet inn et utkast til et manus, i tillegg til kildematerialer, i universitetets Chat-GPT (som skal være "trygg") og bedt om å få ut en kortversjon jeg kan presentere på en konferanse i sommer. Den svarer "I write it in your voice" og jeg er faktisk ikke uenig i det hele tatt. Det er en utrolig merkelig følelse at maskinen kan klare det. Ikke minst når det jeg ber den om å gjøre er å gi meg et manus om oversettelse som filosofisk problem. Må nok skrive en ny artikkel om denne opplevelsen etterpå.

 

[Mar-a-Lago Club]

Unheimlich. Det er følelsen jeg har nå. Jeg har matet inn et utkast til et manus, i tillegg til kildematerialer, i universitetets Chat-GPT (som skal være "trygg") og bedt om å få ut en kortversjon jeg kan presentere på en konferanse i sommer. Den svarer "I write it in your voice" og jeg er faktisk ikke uenig i det hele tatt. Det er en utrolig merkelig følelse at maskinen kan klare det. Ikke minst når det jeg ber den om å gjøre er å gi meg et manus om oversettelse som filosofisk problem. Må nok skrive en ny artikkel om denne opplevelsen etterpå.

Unheimlich? Ungeheuren Ungeziefer!

Als Gregor Samsa eines Morgens aus unruhigen Traumen erwachte, fand er sich in seinem Bett zu einem ungeheuren Ungeziefer verwandelt.

Willa and Edwin Muir translation (1968)
As Gregor Samsa awoke one morning from uneasy dreams he found himself transformed in his bed into a gigantic insect.
Stanley Corngold translation (1972)
When Gregor Samsa woke up one morning from unsettling dreams, he found himself changed in his bed into a monstrous vermin.
Malcolm Pasley translation (1992)
When Gregor Samsa awoke one morning from troubled dreams he found himself transformed in his bed into a monstrous insect.
Joachim Neugroschel translation (1993)
One morning, upon awakening from agitated dreams, Gregor Samsa found himself, in bed, transformed into a monstrous vermin.
David Wyllie translation (2007)
One morning, when Gregor Samsa woke from troubled dreams, he found himself transformed into a horrible vermin.
Michael Hoffman translation (2007)
When Gregor Samsa awoke one morning from troubled dreams, he found himself changed into an monstrous cockroach in his bed.

 

[Harry Stoteles]

Nettopp!

 

[Tweedjakke]

^ Sit ikkje med fasit til Kafka: Tjon eller skadedyr kunne kanskje passa Ungeziefer, men ein mister jo heilt klang, rytme og flyt.

Elles tykkjer eg omsetjarar frå tysk til norsk har ein tendens til å gå om engelsk, og dimed dra med seg særeigne problem (ikkje-samsvarande omgrep) derifrå.

 

[PederP]

 

[PederP]

Så mye strøm bruker kunstig intelligens for å lage tekst, bilder og video

Forskere sammenligner med mobiler og mikrobølgovner.

www.forskning.no

 

[Mar-a-Lago Club]

Oooops. Men fint å få jobben tilbake med høyere lønn, selvsagt.

Ford has admitted to rehiring hundreds of human workers after its aggressive Al adoption strategy backfired.
The US automaker hired over 350 veteran engineers, referred to internally as "gray beards", over the past three years in order to address mistakes made by automated processes.
“Mistakenly, we thought that by just introducing artificial intelligence and ingesting the design requirements that we had, that that would produce a high-quality product.”

Ford hired AI and sacked humans. It backfired badly

‘We didn’t pay as much attention as we should have to the experience of our most knowledgeable engineers,’ says automaker

www.independent.co.uk

 

[PederP]

Eksperter advarer: KI-bruk til kakeoppskrifter sluker vann og strøm

Mens verden prøver å bremse de menneskeskapte klimaendringene og sparer på vann, forverres problemene hver eneste gang vi spør KI om hjelp til noe.

www.forskning.no