Diverse OpenAI - sjukt imponerende AI

Diskusjonstråd Se tråd i gallerivisning

  • noruego

    Hi-Fi freak
    Ble medlem
    10.06.2003
    Innlegg
    7.046
    Antall liker
    8.766
    Har et plaskebasseng i bakhagen for ungene.

    Tok en daglig sjekk av pH-verdier og slikt med testsettet som fulgte med, for å sjekke resultatet mot fargeskalaene.

    Av ren nysgjerrighet tok jeg et bilde av testpinnen og kjørte gjennom Google sin AI for å vurdere om mine målinger mot fargeskalaen var noenlunde i vater.

    Konklusjonen var derimot at jeg mest sannsynlig er gravid…
     

    Tweedjakke

    Hi-Fi freak
    Ble medlem
    29.01.2008
    Innlegg
    6.314
    Antall liker
    6.977
    Sted
    Market Snodsbury
    No byrjar eg å lura på kva heile den ChatGPT-greia var. Eg bruker ikkje det aktivt, i men dei tre siste tekniske spørsmåla eg har prøvd å få hjelp til, har meir enn halvparten av svara vore fri fantasi.

    - Instillingar til pakkene babel og csquote (LaTeX) for å få hjelp til å få korrekte hermeteikn på esperanto. ChatGTP dikta opp syntaks og laug om korleis pakkane hang saman.

    - Hjelp til å forstå datastrukturane i XenForo. ChatGPT dikta opp felt som ikkje finst, og måtte overtalast til å forstå korleis ting hang saman.

    - Sannsynsrekning på ein del komplekse terningkast. ChatGPT gav meg nokre idear, men enda opp med å fantasera opp verdiar som var besynderleg i retning, men ikkje lik, dei eksakte verdiane eg hadde funne.

    I alle tre forsøka fekk eg noko fornuftig ut av svara, idear og spor, men på ingen måte svar var tilstrekkelege.
     

    KJ

    Æresmedlem
    Ble medlem
    10.10.2004
    Innlegg
    11.606
    Antall liker
    5.339
    Torget vurderinger
    1
    Som noen har nevnt et par ganger, dagens store språkmodeller kan absolutt ingen ting om gehaltet den serverer, annet enn sannsynlighetene for ordsammenstillingene.

    Mvh
    KJ
     

    PeriodeLytter

    Hi-Fi freak
    Ble medlem
    26.02.2013
    Innlegg
    4.732
    Antall liker
    4.709
    Dette er vel allerede bevist at etter to generasjoner med smarttelefoner og Internett at menneskehetens intellekt har gått tilbake. Mens man i alle årene før kunne se økt IQ for hver generasjon går den nå tilbake. Når man ikke lenger behøver lære noe men kan slå det opp på telefonen blir man zombier som teknologigigantene kan forme til hva dem vil. AI blir i så måte bare en forlengelse av dette.
     

    Asbjørn

    Rubinmedlem
    Ble medlem
    26.03.2006
    Innlegg
    40.728
    Antall liker
    44.506
    Sted
    Vingulmǫrk
    Torget vurderinger
    2
    Som noen har nevnt et par ganger, dagens store språkmodeller kan absolutt ingen ting om gehaltet den serverer, annet enn sannsynlighetene for ordsammenstillingene.

    Mvh
    KJ
    Ja. Dessuten er det en begrensning i at de eksisterende assosiasjonene i modellen svekkes når man forsøker å lære den mer. Den smøres tynnere utover, billedlig. Dette ser man fort hvis man forsøker å legge til nye features i en billedgenererende AI. Noen ganger blir det bra, andre ganger forsvinner all logikk i anatomi etc. Det er derfor ikke spesielt overraskende at når OpenAI forsøker å få inn «PhD-nivå kunnskap om alt» glemmer modellen hvordan den gjør trivielle ting som å telle til ti. Resultatet ble som det kanskje måtte bli. (Noen vil sikkert mene at det samme skjer med menneskelige PhD’s, men jeg er ikke helt enig i det.)


    Man kan også se at hvis man slår på «show reasoning» eller lignende i en av LLM’ene, så resonnerer den ikke, den genererer bare en tilleggstekst som skal gi inntrykk av at den resonnerer og samtidig underholde brukeren mens det egentlige svaret genereres.


    Scenariet for hvordan AI ødelegger verden er ikke at AI’ene utvikler bevissthet og bestemmer seg for å utrydde menneskeheten, men at menneskelige beslutningstagere tror på det en AI serverer dem og treffer helt feil beslutning i et kritisk øyeblikk.
     
    Sist redigert:

    tjua

    Hi-Fi freak
    Ble medlem
    19.08.2012
    Innlegg
    5.825
    Antall liker
    3.957
    Sted
    Bergen
    Torget vurderinger
    1
    Litt om KI, strøm, etablering å sånn
    Sykt mye (investerte) penger involvert, isolert sett bare i selve KI, dette skal jo de snille onklene fra usa ha tilbake + avkastning
    Sykt mye strøm involvert, dette får aldri skattebetalerne tilbake, hverken i form av redusert skatt eller tjenester som rettferdiggjør den enorme strømbruken.. som vil spise opp all restkraftkapasitet i Norge + enda mer press for å bygge vind og solparker på land

    Byene bryr seg ikke særlig om det, det blir på landet…

    Langt unna tilrivingsøkonomiinfluenserne
     

    fry

    Overivrig entusiast
    Ble medlem
    23.10.2012
    Innlegg
    880
    Antall liker
    580
    Torget vurderinger
    10

    Mindre digitalt enn det meste på listetoppene om dagen. Blir en glidende og sømløs overgang dette.
     

    Asbjørn

    Rubinmedlem
    Ble medlem
    26.03.2006
    Innlegg
    40.728
    Antall liker
    44.506
    Sted
    Vingulmǫrk
    Torget vurderinger
    2
    Jeg tenker at bruk av KI vil være åpenbart juks i typiske programmeringsoppgaver i fag som algoritmer & datastrukturer. Man lærer ikke mye om f eks heapsort ved å si til en AI «gi meg kode for heapsort.» Den algoritmen er godt dekket i et antall lærebøker og åpen kildekode, så man kan også gå ut fra at AI’ens kode vil være korrekt, men studenten behøver ikke forstå noe som helst av den og viser ingen egen forståelse. Effekten blir den samme som å kopiere kildekode fra GitHub eller Rosetta Code og utgi det for å være sin egen, og det er også eksakt hva som skjer selv om AI’en er et energisløsende mellomtrinn. Rent fusk.

     
    Sist redigert:

    Tweedjakke

    Hi-Fi freak
    Ble medlem
    29.01.2008
    Innlegg
    6.314
    Antall liker
    6.977
    Sted
    Market Snodsbury
    Man lærer ikke mye om f eks heapsort ved å si til en AI «gi meg kode for heapsort.»
    Eg trur Litheland prøver å stilla dei store spørsmåla:

    Dette er folk i skuleverket nøydde til å ta stilling til. For eksempel må vi spørje oss kva vi ønskjer at elevane skal lære.
    For meg høyrest det ut som det fundamentale spørsmålet i all opplæring. «Kva er kunnskapane i dette faget, og korleis måler vi om eleven har desse? Korleis er dei kunnskapane vi vil formidla strukturerte?»

    Inntrykket mitt er at tendensen sidan eg var elev i grunnopplæringa (eg er overraska, men det er faktisk 29 år sidan eg gjekk ut av vgs) er at det ferdige produktet, det å løysa eitt eller anna som liknar på det ein finn ute i verda, får større og større plass. For å gjera det, må elevane altså bruka større og større byggjesteinar, utan å kanskje heilt forstå dei.

    Dersom vi vil at eleven/studenten skal forstå korleis heapsort fungerer, og måla dette i om eleven kan formulera ein implementasjon i eit høgnivåspråk, er det sjølvsagt juks å levera inn kode ein har fått frå eit google-søk eller eit spørsmål til ein AI.

    Dersom vi gjev blanke i om eleven forstår korleis ein sorterer, berre at det let seg gjera, er det sjølvsagt uproblematisk at eleven hentar kode frå AI, men ei betre løysing ville kanskje vera å bruka funksjonen frå standardbiblioteket, eller importera eit bibliotek.

    Då eg studerte informatikk, var det første vi gjorde i «Algoritmar og datastrukturar»-faget å skriva eit bibliotek for lister i Java. Sjølvsagt hadde Java det innebygd, men poenget var at vi skulle forstå kva ei liste var, uttrykt i Java-syntaks og med enklare datatypar. Dersom vi hadde brukt Scheme som opplæringsspråk, slik dei gjorde på MIT på den tida, hadde vi sannsynlegvis implementert andre strukturar.
     
    Sist redigert:

    morbid

    Hi-Fi freak
    Ble medlem
    24.08.2018
    Innlegg
    4.777
    Antall liker
    3.143
    Problemet her er vel at man trenger noen grunnleggende kunnskaper for å kunne vurdere hva som kommer ut av bullshitgeneratoren før man evt tar det i bruk. Det vil man jo aldri få ved omfattende bruk av ai fra tidlig alder, eller stackoverflow for den saks skyld. En god lærer bør enkelt kunne demonstrere hvor mye drit som kommer ut av chatbotene..
     

    jane

    Hi-Fi freak
    Ble medlem
    27.06.2004
    Innlegg
    3.297
    Antall liker
    1.444
    Sted
    '
    Jeg tenker at bruk av KI vil være åpenbart juks i typiske programmeringsoppgaver i fag som algoritmer & datastrukturer. Man lærer ikke mye om f eks heapsort ved å si til en AI «gi meg kode for heapsort.» Den algoritmen er godt dekket i et antall lærebøker og åpen kildekode, så man kan også gå ut fra at AI’ens kode vil være korrekt, men studenten behøver ikke forstå noe som helst av den og viser ingen egen forståelse.
    Før så skrev vi av en eller annen lærebok, nå finnes svaret på trivielle problemstillinger på nett. Jeg ser ikke helt forskjellen med henhold på juks eller ikke.
     
  • Laster inn…

Diskusjonstråd Se tråd i gallerivisning

  • Laster inn…
Topp Bunn