Diverse OpenAI - sjukt imponerende AI

Diskusjonstråd Se tråd i gallerivisning

  • B

    benchmarkmannen

    Gjest
    Kanskje det å ha arbeidd med Heidegger kan vera eit interessant utgangspunkt for å betrakta KI som fenomen? Eg trur ikkje vi skal avskriva det heilt.

    Men kritikken verka kanskje litt overflatisk?
    Sidan hennar bakgrunn innan AI/ML er ekstremt overlatisk (eller oftare: fråværande) så vert naturlegvis hennar uttalelsar likeså.
    Nokon (som henne) kjenner tydelegvis ikkje si eiga begrensning (eller framtrer som om dei ikkje gjer det).
     
    Sist redigert av en moderator:

    Harry Stoteles

    Hi-Fi freak
    Ble medlem
    18.05.2020
    Innlegg
    3.830
    Antall liker
    4.812
    Sted
    Oslo
    Torget vurderinger
    0
    Her er det mye å svare på.

    Jeg skjønte dessverre verken hva som var vits eller retorisk spørsmål, @ePi, men slik akadmia fungerer vil begge være gode til å svare på et sånt spørsmål, i alle fall kvalifisert, men de vil nok ikke si det samme. Så blir det opp til deg å bestemme hvilket svar du blir mest overbevist av.

    @benchmarkmannen , jeg har brukt Heidegger en del i min egen forskning og påstår helt klart at @Tweedjakke har et veldig godt poeng. Heidegger var en av de viktigste tenkerne om hva teknologi er i det (post)moderne samfunnet, og om noe vil jeg si at Goodwin overser det aspektet som Heidegger bringer til torgs. Helt kort beskriver Heidegger teknologi som noe mye mer enn verktøy som vi kan velge å bruke eller ikke. Så lenge verktøyet fins og vi vet at det fins, så gjør det noe med vårt forhold til både verktøyet og oppgaven, og dette endrede forholdet har ringvirkninger helt ut i hvordan vi oppfatter verden. Ser det vi ser rundt oss ut som en ressurs, eller ser vi det kanskje ikke i det hele tatt?

    Som et eksempel har havet etter hvert begynt å representere veldig mange ting: fisk, olje, vindturbiner, bølgekraft, båtturer, varefrakt, relasjonen og forskjellene mellom filipinske og norske sjøfolk, juridiske relasjoner mellom Norge og Russland, vær- og klimaforhold knyttet til Golfstrømmen, hvalfangstkvoter og andre lands etiske vurdering av norsk hvalfangst, osv osv osv.

    KI er et verktøy som endrer måten vi tenker rettferdighet, ressursbruk, intelligens, utdanning, kunst, politikk, kort sagt en hel haug med greier i samfunnet. Da holder det ikke å påstå at det bare er teknologene som "har peiling på KI". Du trenger ikke like henne eller poenget hennes, men det blir for snevert å avvise henne fordi hun bruker en annen tilnærming enn datafolket.
     
    Sist redigert:

    Handsoer

    Hi-Fi freak
    Ble medlem
    14.03.2007
    Innlegg
    4.489
    Antall liker
    2.479
    Sted
    Sortland
    Å overlate implementeringen av KI i samfunnsutviklingen til teknologer med tunellsyn kan da ikke være noen god ide?

    Ressursbruken er helt hinsides fornuft, håper norske myndigheter adopterer den australse modellen.
     
    B

    benchmarkmannen

    Gjest
    Nokre personar som overhodet ikkje er forskarar liker å gi seg ut for å vera forskarar ("min forskning .."). Dei burde læra seg at å ha god kompetanse om det ein uttaler seg om og repeterbarhet er heilt fundamentalt for vitenskap/forskning.
     

    Harry Stoteles

    Hi-Fi freak
    Ble medlem
    18.05.2020
    Innlegg
    3.830
    Antall liker
    4.812
    Sted
    Oslo
    Torget vurderinger
    0
    Nokre personar som overhodet ikkje er forskarar liker å gi seg ut for å vera forskarar ("min forskning .."). Dei burde læra seg at å ha god kompetanse om det ein uttaler seg om og repeterbarhet er heilt fundamentalt for vitenskap/forskning.
    Det er vel klokest å gå ut fra at jeg ikke snakker sant så lenge jeg ikke skriver under fullt navn. Men argumentet mitt er egentlig helt uavhengig av henvisningen til egen forskning, så se gjerne bort fra den. Hvis du har en annen tolkning av Heideggers teknologisyn så lytter jeg gjerne.

    Du har sikkert en tanke med å trekke inn repeterbarhet her, men det er ikke helt åpenbart for meg hva den er. I lenken din står det:

    For the findings of a study to be reproducible means that results obtained by an experiment or an observational study or in a statistical analysis of a data set should be achieved again with a high degree of reliability when the study is replicated.

    Assers studie er verken et eksperiment, en observasjonsstudie eller en statistisk analyse av et datasett. Det er en filosofisk studie av et empirisk (kvalitativt) materiale, og faller dermed utenfor definisjonen du viser til.
     

    Tweedjakke

    Hi-Fi freak
    Ble medlem
    29.01.2008
    Innlegg
    8.435
    Antall liker
    9.690
    Sted
    Au recherche du futur perdu
    Så lenge verktøyet fins og vi vet at det fins, så gjør det noe med vårt forhold til både verktøyet og oppgaven, og dette endrede forholdet har ringvirkninger helt ut i hvordan vi oppfatter verden.
    Vi var innom litt same diskusjonen her i heimen nyleg (då vi diskuterte rundt middagsbordet kva ei god omsetjing av «feminist re-imagination» kunne vera):

    At når vi tilkjenner strukturar ontologisk vekt, så vert det umogleg å ikkje sjå dei overalt. Vi kan ikkje av-forstå dei, og heller ikkje forstå verda utan dei. Det vil, i så fall, vera å (prøva å) tvinga seg sjølv til eit slags fiktivt, naivt blikk på verda.

    Det same gjeld, utan tvil, teknologi.

    Så eg trur Heidegger (utan at eg skal skryta på meg å ha studert han særleg grundig) absolutt kan tilføra ein diskusjon om KI noko, eller kva det gjer med oss som menneske, og for den del synet vårt på språk, kunnskap, fornuft og etikk.
     
    Sist redigert:

    bambadoo

    Æresmedlem
    Moderator
    Ble medlem
    11.10.2002
    Innlegg
    23.879
    Antall liker
    14.315
    Sted
    Lørenskog
    Torget vurderinger
    17
    Her er en som virkelig setter AI på prøve
     
    • Haha
    Reaksjoner: Nex

    PeriodeLytter

    Hi-Fi freak
    Ble medlem
    26.02.2013
    Innlegg
    5.844
    Antall liker
    6.181
    Denne LLM problematikken er ikke ny. Men denne versjonen fikk meg til å tenke på noen OT diskusjoner her på HFS.
     

    weld77

    Æresmedlem
    Ble medlem
    19.09.2014
    Innlegg
    24.398
    Antall liker
    17.720
    Sparket liv i en gammel PC hjemme for å se om det var noe på den jeg kunne tenke meg å ta vare på. Fant en mappe med loggfiler fra MSN messenger jeg brukte en del i hine hårde dager (tjenesten ble lagt ned i 2013, mitt bruk var 2002-2004). Søkte litt på nett og fant ingen klient som kunne forholde seg til disse filene på en vettug måte, en tjeneste der man kunne laste opp filene til en nettside som kunne vise chattene men det var jeg ikke så sugen på.

    Ba ChatGPT og Claude lage en klient basert på en kort eksempelfil (xml-format). Ettter å ha tenkt i noen få minutter presenterte begge fullt fungerende standalone web-apper med bra brukergrensesnitt - kunne dra over alle filene i en operasjon og fikk de gruppert etter hvem jeg hadde chattet med, fin overikt over datoer, hvor mange meldinger pr dato og litt slike ting.

    Nå er ikke dette akkurat rakettforskning eller særlig viktig men i alle fall veldig tidsbesparende.
     

    jane

    Hi-Fi freak
    Ble medlem
    27.06.2004
    Innlegg
    3.480
    Antall liker
    1.765
    Sted
    '
    En i familien jobber I et større norsk IT/konsulentfirma og forteller at KI har utviklet seg eksponentialt den siste tiden (vi snakker måneder). Hvis jobb-egenskapene dine kun er introvert kodeskriver, og du ikke er i et eller annet 2% sjikt, så sliter du om ikke så alt for lenge er spådommen derifra.
     

    weld77

    Æresmedlem
    Ble medlem
    19.09.2014
    Innlegg
    24.398
    Antall liker
    17.720
    En i familien jobber I et større norsk IT/konsulentfirma og forteller at KI har utviklet seg eksponentialt den siste tiden (vi snakker måneder). Hvis jobb-egenskapene dine kun er introvert kodeskriver, og du ikke er i et eller annet 2% sjikt, så sliter du om ikke så alt for lenge er spådommen derifra.
    Selv om jeg ikke driver med programmering til daglig og på ingen måte er særlig flink er jeg imponert over hvor villt bra det har blitt - og som du sier har det gått veldig fort. Jeg trenger ikke en gang bruke de nyeste/mest avanserte/dyreste modellene for å få gjort ting som ville tatt meg selv ukesvis (og blitt mye dårligere, skal sies).

    En betydelig endring jeg merker på de mindre tingene jeg lager for å spare tid hjemme er hvor mye fin funksjonalitet de legger til helt uten at jeg har bedt om det, igjen ikke fancy eller avanserte greier men mye "nice to have" og ting funker stort sett fint på første forsøk. På det eneste mer seriøse prosjektet jeg har hatt så har KI-en kommet med temmelig kreative løsninger på problemer som oppstod.
     

    Tweedjakke

    Hi-Fi freak
    Ble medlem
    29.01.2008
    Innlegg
    8.435
    Antall liker
    9.690
    Sted
    Au recherche du futur perdu
    ^ Det er litt spanande korleis det vil påverka programmeringsspråka våre på sikt.

    Dagens språk er designa for menneskelege ytringar (eller menneskelege tenkjemåtar), ofte med ein rik grammatikk og ein del «do what I mean» (td dynamisk typing).

    Dei har også vakse på seg eit monstrøst volum av bibliotek, som i praksis lagar små domenespråk.

    Vil dette vera like optimalt etter kvart som KI tek over meir og meir av kodeskrivinga?
     
    Sist redigert:

    jane

    Hi-Fi freak
    Ble medlem
    27.06.2004
    Innlegg
    3.480
    Antall liker
    1.765
    Sted
    '
    Koder er jo en ting. Men når alle kan gjøre det meste på en enkel, hurtig og besparende måte ved hjelp av KI vil dette helt sikkert føre til at mange gjør ting som er mindre smart. For eksempel dele eller laste opp sensitive klientopplysninger (eller for den saks skyld statshemmeligheter) i KI-himmelen for videre behandling/analyse.
    Jeg tipper det vil flyte opp noen saker til overflaten etter hvert..
     

    weld77

    Æresmedlem
    Ble medlem
    19.09.2014
    Innlegg
    24.398
    Antall liker
    17.720
    Koder er jo en ting. Men når alle kan gjøre det meste på en enkel, hurtig og besparende måte ved hjelp av KI vil dette helt sikkert føre til at mange gjør ting som er mindre smart. For eksempel dele eller laste opp sensitive klientopplysninger (eller for den saks skyld statshemmeligheter) i KI-himmelen for videre behandling/analyse.
    Jeg tipper det vil flyte opp noen saker til overflaten etter hvert..
    Ja det er en åpenbar risiko og på jobben er det mye snakk om denne problemstillingen. En god del (deriblant meg) har tilgang til en entreprise-versjon av ChatGPT der datane ikke brukes til å trene modeller (sier de i alle fall...) og det er en god del mer sikkerhetsaspekter rundt det, men risikoen for at man sender noe man ikke burde til en eller annen KI-himmel er jo til stede og ting kan gå galt mhp sikkerhet selv om leverandøren har gjort et ærlig forsøk på å holde det trygt. Forsåvidt ligger det allere et tårn av opplysninger i de ymse skyene allerede (AWS/Google Cloud/MS Azure/osv) da stadig mer løftes dit på den ene eller andre måte.

    Det mangler neppe på folk som har diskutert svært personlige ting med ymse AI-chatter og neppe er sugne på at slikt skal komme på avveie i en eller annen lekkasje eller noe annet, men på en annen side så er det neppe veldig mange som er dritsugne på at hele ens google-søkehistorikk skal komme ut heller så akkurat den terskelen er langt på vei krysset for lenge siden.
     

    weld77

    Æresmedlem
    Ble medlem
    19.09.2014
    Innlegg
    24.398
    Antall liker
    17.720
    ^ Det er litt spanande korleis det vil påverka programmeringsspråka våre på sikt.

    Dagens språk er designa for menneskelege ytringar (eller menneskelege tenkjemåtar), ofte med ein rik grammatikk og ein del «do what I mean» (td dynamisk typing).

    Dei har også vakse på seg eit monstrøst volum av bibliotek, som i praksis lagar små domenespråk.

    Vil dette vera like optimalt etter kvart som KI tek over meir og meir av kodeskrivinga?
    Programmeringsspråk (og tilhørende biblioteker) er prinsipielt vel primært ulike grader av abstraksjon ift den undeliggende maskinvaren. For noen kjente eksempler i økende grad av abstraksjon for å ta noen kjente eksempler.

    Assembly
    C
    C++
    Python

    Ikke helt trivielt å se for seg en f.eks pandas DataFrame i Pythoiin med ulike datatyper i minnet mens det er betydelig enklere å se for seg et heltall med et gitt antall bits eller en tekststreng som slutter med et linjeskift selv om den underliggende koden for Numpy (som ligger "under" Pandas) er skrevet i C, da pga ytelse.

    Felles for alle turing-komplette språk er at de i prinsippet kan gjøres hvasomhelst, men litt avhengig av hva man skal gjøre og hvilke krav man har (ytelse, tilgjengelig minne, hva det finnes kompilator/interpreter, passe inne i legacy-kode osv) og hva man skal gjøre så er det ulike språk som i varierende grad egner seg til ulike oppgaver men i siste instans blir alt på en eller annen måte oversatt til maskinkode uansett, den store forskjellen er i hvilken grad man faktisk må forholde seg til den underliggende maskinvaren som er (relativt) uavhengig av om det er en KI eller et menneske som har skrevet koden.

    Spranget som i alle fall delvis er tatt, ved at man ved ganske rett frem prosa kan få generert kode i et stort utvalg programmeringsspråk er sånn sett kanskje det mest formidable som er gjort, i teorien - men (foreløbig) kun i teorien kan man nesten se helt bort fra hvilket språk dette skal implementeres i selv om det rimelig nok er mye enklere - også for en KI å gjøre ett eller annet i enkelte språk kontra i andre språk, bare tilgangen på nyttige biblioteker som fikser ditt og datt er det rimelig stor forskjell på fra språk til språk.

    Om det for diskusjonens skyld ikke var noe krav til å kunne lese koden i det hele kunne man jo se for seg at man bare beskriver hva man skal ha gjort tilstrekkelig godt så kunne det genereres maskinkode direkte men ikke så lett å se hva man man eventuelt skulle ha oppnådd med noe slikt, dagens kompilatoroptimeringer og f.eks Java sine run-time optimeringer har blitt rimelig sofistikerte.
     

    PeriodeLytter

    Hi-Fi freak
    Ble medlem
    26.02.2013
    Innlegg
    5.844
    Antall liker
    6.181
    Vet vi om det finnes åpen kildekodeprosjekt hvor man har brukt LLM til å forsøke optimere ulike kompilere?

    Linus Torvalds har ved flere anledninger uttalet at C er det språket han opplever nærmest følger hardware logikk. Og Linux styrke ligger i manuell optimalisering for viktige kernelfunksjoner.
     

    weld77

    Æresmedlem
    Ble medlem
    19.09.2014
    Innlegg
    24.398
    Antall liker
    17.720
    Vet vi om det finnes åpen kildekodeprosjekt hvor man har brukt LLM til å forsøke optimere ulike kompilere?
    Ingen aning, men for mange språk er det vel LLVM som er optimeringslaget i kompileringskjeden. Moderne optimerende kompilatorer er jævlig kompliserte greier og det er ikke akkurat slik at det finnes flust av kilemateriale å trene på. Den virtuelle java-maskinen er vel closed-source, ditto er C/C++ - kompilatorene til Microsoft og Intel, GCC og LLVM er open-source, om det finnes noe annet som er i nærheten av disse aner jeg ikke.

    Optimering skal jo gjøre en mild variant av svart magi - det skal transformere koden til noe som går kjappere å kjøre på en gitt target-arktiektur samtidig som kodens oppførsel ikke skal endres. Det lille jeg har lest om slike er stort sett at det er noe av den mest kompliserte programvaren som finnes der ute, spesielt kompilatorer for C++ og en kompilator man ikke helt vet hvordan funker eller skjønner hva gjør fremstår ikke som en ubetinget særlig god ide.

    Linus Torvalds har ved flere anledninger uttalet at C er det språket han opplever nærmest følger hardware logikk
    Det er vel mer presist å si at han dypt og intenst hater C++? Han sier jo mye men har mellom annet sagt noe i retning av at det å holde C++ - programmere borte fra Linux-kjernen i seg selv er god nok grunn til ikke å bruke C++ i den. Nå er det tillatt med Rust i alle fall i deler av Linux-kjernen så der har han i alle fall vært litt på gli. Operativsystemer, altså selve kjerenen av de, er stort sett skrevet i C uansett variant og om man beveger seg til embedded-verdenen så er vel C nær enerådende siden det har så lite overhead.
     

    weld77

    Æresmedlem
    Ble medlem
    19.09.2014
    Innlegg
    24.398
    Antall liker
    17.720
    Men for å returnere til f.eks min lille MSN-filleser jeg fikk ChatGPT og Claude til å lage for meg. Jeg fikk som nenvt løst en oppgave i løpet av noen få minutter, og jeg selv ville brukt ganske så lang tid på å lage noe som var langt dårligere. Men om jeg - lite trolig for akkurat dette tifellet - hadde tatt meg bryet med å lage noe som funket sånn noenlunde selv så ville jeg lært masse på veien. Nå har jeg ikke lært noesomhelst, implementasjonen er JavaScript jeg ikke har noen interesse av å lære meg og ikke kan så jeg kan ikke se koden. Kunne selvsagt bedt de bruke python og lært noe ved å se på den koden men det er svært langt fra det samme. Dersom noe ikke funket og jeg måtte fikse det selv ville jeg slitt en del siden jeg ikke har vært med i tankeprosessen eller tatt noen valg underveist eller tenkt gjennom noen av det lille mylderet av problemstillinger man nødvendigvis må forholde seg til dersom man koder noe selv - det til tross for utstrakt bruk av tilgjengelige biblioteker for å gjøre det lettere for en selv.
     

    defacto

    Hi-Fi freak
    Ble medlem
    04.05.2016
    Innlegg
    7.583
    Antall liker
    5.905
    Sted
    Liten by på Østlandet
    Jeg har nå brukt Suno AI på gamle opptak av et band jeg var i fra jeg var 12-20. Det er er facinerende hva den klarer å få ut av gamle og dårlige opptak med feil og mangler. Til og med en manglende vokalist! Enkelte anger har faktisk blitt så bra at jeg kunne hørt på det uten noe problem.

    Det er skremmende også! Produsenter og lydteknikere må skjelve litt nå....
     

    tjua

    Hi-Fi freak
    Ble medlem
    19.08.2012
    Innlegg
    9.067
    Antall liker
    5.666
    Sted
    Bergen
    Torget vurderinger
    1
    Nå må vi alle i staller en KI inspeksjonsagent på alt vi leser digitalt
     

    Mar-a-Lago Club

    Hi-Fi freak
    Ble medlem
    14.02.2025
    Innlegg
    1.936
    Antall liker
    4.298
    Sted
    Halden
    Torget vurderinger
    2
    Har du brukt AI til å hjelpe deg å planlegge privatøkonomien? Ifølge en undersøkelse av teknologiselskapet Saturn bør du tenke deg om et par ganger før du gjør det.

    Undersøkelsen er omtalt av Financial Times (FT), som skriver at de mest populære modellene fra ChatGPT, Claude, Copilot, Grok og Gemini i gjennomsnitt hadde feil på 57 prosent av spørsmålene de ble stilt om finansielle råd.

    Modellene ble testet med 121 spørsmål, som ble stilt fem ganger, slik at over 10.000 svar kunne analyseres. Modellene ble testet på spørsmål om blant annet gjeld, boliglån, pensjon, skatt og sparepenger, skriver IBS Intelligece.

    99 prosent feil
    FT skriver at modellene virkelig slet med mer komplekse spørsmål, som blant annet inneholdt mer enn én utregning. I gjennomsnitt tok modellene feil på 88 prosent av disse spørsmålene.

    Ifølge rapporten, som kan lastes ned i sin helhet på Saturns hjemmeside, så tok gratismodellene Google Gemini 3.5 Flash og Claude Haiku 4.5 feil på 99 prosent av disse spørsmålene. Ifølge resultatene til Saturn er det stor forskjell i hvor godt gratis- og betalings-versjonene gjør det

     

    PeriodeLytter

    Hi-Fi freak
    Ble medlem
    26.02.2013
    Innlegg
    5.844
    Antall liker
    6.181
    Pff... LLM overta for mennesker. Leker med LM Studio Bionic og ulike modeller på laptoppen min. 8GB RTX 4070 skjermkort og 32GB RAM.
    Nå jeg laster 31B til 35B modeller som fyller opp alt av minne bruker dem nesten 5 minutter på respons fra promt: "Hei". :rolleyes: Selv jeg klarer bedre :sleep:

    Er det noen av dere som har funnet en favorittmodell for gitte oppgaver lokalt? Evt har dere noen bra kilder man kan laste ned Skills?
    Selv lar jeg meg imponere av hastighet og hva jeg får ut av svar fra Gemini 4 E4B Q4_K_M.
    Jeg har mest brukt den til å forklare matematiske formler som jeg klarte "verifisere" med DDG søk. Den ser også ut til å kunne utføre enkelte matteoppgaver som log2( N )+1 uten dedikert skills. På spørsmål om hvordan modellen utfører matematiske oppgaver vedkjenner den seg å bruke mønster, men at den kan utføre komplekse utregninger med python.

    QQuantization (Kvantisering)Dette betyr at modellens opprinnelige vektdata, som er lagret i høy presisjon (ofte 32-bit flyttall), har blitt redusert i presisjon. Dette reduserer minnebehovet dramatisk.
    4Bit Depth (Bitdybde)Tallet 4 indikerer at hver parameter nå kun er lagret med 4 bits nøyaktighet, i stedet for de 32 bitene den opprinnelig var. Dette er det sentrale kompromisset: mindre plass = raskere kjøring, men litt tap av teoretisk nøyaktighet.
    KK-Quantization (Avansert kvantisering)Dette refererer til en spesifikk og forbedret algoritme kalt k-quantisering. Denne metoden er smartere enn bare å kutte alle bitene likt (rå Q4). Den optimaliserer komprimeringen ved å bruke et intelligent gjennomsnitt av dataene, noe som gir bedre ytelse (nærmere originalmodellen) for samme minneforbruk.
    MMedium / MetadataDette er ofte en generell markør for implementasjonsstabilitet eller at det er optimalisert for medium-store maskiner/systemer.
     
    Sist redigert:

    PeriodeLytter

    Hi-Fi freak
    Ble medlem
    26.02.2013
    Innlegg
    5.844
    Antall liker
    6.181
    Litt klikkåte* overskrift, men gir et raskt innblikk i hvorfor LLM neppe blir KI som skal ta livet av oss.
    *) nei du leste feil ;)

    Forresten er Qwen sine større 27b og 35BA3 modeller raskt blitt favoritt til embedet programering. Faktisk eneste lokale modellene jeg har testet så langt som faktisk står på sitt og fikk meg til å lese meg bedre opp på emnet jeg utfordret den på, heller enn å følge en instruks jeg gav den. Det er også intressant å se hvordan den "leser" seg opp på dataark den allerede har i modellen og "husker" hele linjer med kode den forsøker finne referanse til i dataarket for gjenbruk passende tildelt oppgave. Og jaggu oppdager den selv når den begynner gå i loop på samme problemstilling
     
  • Laster inn…

Diskusjonstråd Se tråd i gallerivisning

  • Laster inn…
Topp Bunn