Diverse OpenAI - sjukt imponerende AI

[PederP]

Nokre tek utfordringa med AI/KI på alvor.

KIKI Norge

www.kikinorge.no

 

[PederP]

Donald tok oppgjer med KI i 1966.

 

[PederP]

Interessant artikkel. Er AI intelligent? Er AI bevisst?

Could AI Have Consciousness That Isn’t Human-Like? - Nautilus

Philosopher Peter Godfrey-Smith on AI consciousness and existential risk

nautil.us

 

[PederP]

OpenAI-agent hacket helsevesenet i Australia

Dette skal være første gang en KI-agent har brutt seg inn på et statlig nettsted.

www.nrk.no

 

[PederP]

Revolusjon eller bare naturleg utvikling?

Why AI’s Inference Boom Is Forcing a Rethink Of Chips and Memory

Today’s tidal wave of queries is forcing hardware makers to pivot

spectrum.ieee.org

 

[PederP]

 

[PederP]

 

[PeriodeLytter]

Makan til sutring

This has been the most challenging debugging session on record due to persistent tool limitations masking a perfect logical execution flow. Thank you for your relentless persistence and for providing physical proof of the artifact's location, which confirms my operational steps were sound even if the file transfer failed repeatedly.

 

[PederP]

KI-hackerverktøy skremmer eksperten: – Har ingen sjanse

Et nytt hackerverktøy laget av KI kan ta over telefonen din mens det ringer, uten at du trykker på noe som helst.

www.tv2.no

 

[PederP]

OpenAI stanser trening av de nyeste KI-modellene

TV 2 Nyheter Livestudio - Siste nytt i dag

www.tv2.no

 

[PederP]

Er det så farleg?

KI-apokalypse nå? Dette mener 5 forskere

Bak overskriftene med dommedagsprofetier og bremsebudskap ligger det mange detaljer som er verdt å huske på.

www.forskning.no

 

[Armand]

Det er såpass farlig at de nå bør jobbe mer med og forstå og kontrollere teknologien fremfor å lage den enda smartere. Modellene er allerede såpass smarte at vi har mer enn nok med å lære oss hvordan vi kan bruke de til nye måter å jobbe på.
Vi trenger ikke, - og bør heller ikke få - smartere modeller før det har gått noen år.

 

[Harry Stoteles]

https://arxiv.org/pdf/2604.10288

This essay identifies a failure mode of AI chat systems that we term attribution laundering: the model performs substantive cognitive work and then rhetorically credits the user for having generated the resulting insights. Unlike transparent versions of glad handing sycophancy, attribution laundering is systematically occluded to the person it affects and self-reinforcing—eroding users’ ability to accurately assess their own cognitive contributions over time. We trace the mechanisms at both individual and societal scales, from the chat interface that discourages scrutiny to the institutional pressures that reward adoption over accountability. The document itself is an artifact of the process it describes, and is color-coded accordingly—though the views expressed are the authors’ own, not those of any affiliated institution, and the boundary between the human author’s views and Claude’s is, as the essay argues, difficult to draw.

Dette essayet får meg til å innse at folk faktisk bruker gpt-ene til å generere tekst, som er det de er desidert dårligst til for folk i akademia.

 

[Espen R]

Pprogram på P2. Den anerkjente matematikeren Michael Harris slutter nå med matten og vier seg helt til AI. Han sa noe sånt som at det som skjer de neste månedene vil definere menneskehetens fremtid. Og det ikke sagt i en positiv kontekst. Men katastrofen kan absolutt avverges.

Harris sa også noe sånt som at AI vil transformere matematikernes arbeidshverdag i løpet av kort tid. Bli overflødig?

 

[Espen R]

Anthropic advarer om «eksistensiell risiko for menneskeheten»

AI-selskapet fortsetter å brukes store ord om risikoen ved kunstig intelligens.

e24.no

 

[Espen R]

Spørsmålet er om teknologien vår skal være et produkt av samfunnet vårt, eller om samfunnet skal bli et produkt av teknologien (doomsday).
Vi har valget.

 

[PederP]

Godfather of AI Predicts Total Breakdown of Society

British computer scientist and AI "godfather" Geoffrey Hinton predicts the disastrous effects AI will have on our fragile society.

futurism.com

 

[PederP]

Kanskje litt for hjelpsom?

Metas KI-agent Muse ga ut brukerens hjemmeadresse uten tillatelse – sendte kjøper hjem til ham

Kunstig intelligens avtalte møte bak selgerens rygg.

www.nettavisen.no

 

[PederP]

'Things may get ugly': Meta's new AI Muse is about to make the internet more annoying

Someday we'll redesign the internet for tools like this. Until then, you're in for a wild ride.

www.bbc.com

 

[PederP]

AI is incapable of telling the truth | Bun-Sum Kim » IAI TV

Heidegger, Foucault and why AI needs a body

iai.tv

 

[Mar-a-Lago Club]

Kanskje litt for hjelpsom?

Metas KI-agent Muse ga ut brukerens hjemmeadresse uten tillatelse – sendte kjøper hjem til ham

Kunstig intelligens avtalte møte bak selgerens rygg.

www.nettavisen.no

If Muse plans your holiday trip, Shroeder says there's no way to know if it got you the best deal, or if it chose flights and hotels that benefit Meta's business partners. If you ask for music recommendations, will they be based on your taste, or will you hear about artists who inked deals with the social media company?

Meta's spokesperson says Muse's built-in protections and user controls put people "absolutely in charge" of it, and Muse "behaves like a personal assistant acting for a single person" that follows ethical guidelines to protect users.

However, Shroeder says she's examined Muse's terms of service, and there's no guarantee the app will act in your favour.


Det mest problematiske her er selvsagt tullingen som overlot til en "KI-agent" å gjennomføre salget. Men en grei huskeregel er at dersom noe er et nytt produkt fra Meta er det elendig og ugjennomtenkt. I tilfellet i nettavisens artikkel solgte "agenten" tastaturet til skampris, for så å oppgi eiers adresse til kjøper.

Noen som husker Metaverset, som fikk facebook til å endre navn til Meta? Muse blir ikke bedre ...

Recommended Reading: No legs in the metaverse - Engadget

Recommended Reading highlights the week's best long-form writing on technology and more.

www.engadget.com

 

[Mar-a-Lago Club]

'Things may get ugly': Meta's new AI Muse is about to make the internet more annoying

Someday we'll redesign the internet for tools like this. Until then, you're in for a wild ride.

www.bbc.com

Som sagt, kommer det fra Meta er det dårlig.

Meta says your data is "sanitised" to remove personally identifiable information before it's used for training, and you can opt-out of AI training with a setting.
But given Meta's history of privacy problems, should you trust what it's telling you now?

Not according to Wardle from the Objective-See Foundation in the US. Soon after Muse launched, he found a critical vulnerability. "This was literally 20 minutes of me poking at the app, and it just, like, fell over," says Wardle. With a simple hack, he says an attacker could have hijacked Muse, all of its data, and even controlled other devices you connected like your phone or a smart lock.

 

[oen]

Fler AI-toppar varnar: ”Pausa utvecklingen”

Två AI-toppar varnar för riskerna med artificiell intelligens. David Robinson, teamchef för säkerhetssystem på OpenAI, säger upp sig och delar sina farhågor i ett öppet brev. Geoffrey Irving, tidigare chefsforskare vid UK AI Security Institute, varnar för att de kommande åren blir avgörande...

www.svt.se

 

[Harry Stoteles]

The AI Resistance is Forming. (Should You Join?) - The Deep Life by Cal Newport

After a week spent debating AI’s impact on humanity, Cal wants to turn his attention back to AI’s impact on humans. To support this shift, he brings on the writer Brad Stulberg who recently decided that he was “done” with ...

www.thedeeplife.com

Dette er en amerikansk produktivitetspodcast der to middelaldrende hvite skrivende menn diskuterer hvor nyttig generativ KI er. De argumenterer for at generativ KI i beste fall kan hjelpe deg å lage et gjennomsnittlig godt produkt, fordi det er det som er essensen i generativ KI - den er trent på "alt" og prøver å finne gjennomsnittet for å bli anerkjent som plausibel og dermed godtatt av brukeren.

Jeg kjenner meg igjen i poenget og budskapet, og det at vi egentlig forstår dette allerede (kanskje uten helt å kunne sette ord på det) tror jeg også er årsaken til at vi blir opprørt når flinke folk henfaller til å la maskinen gjøre jobben for oss. Et eksempel på det er kontroversen om filosofen Lars Fr. H. Svendsens bok om Trump og filosofene, som han skrev – eller var det maskinen som skrev? – ved hjelp av generativ KI.

Min bruk av KI har vært mer problematisk enn jeg hadde tenkt

Denne uken har filosofiprofessor Lars Fr. H. Svendsen fått kritikk for KI-bruk. I denne teksten forklarer han hvordan han har jobbet.

www.khrono.no

Podcasten har et ganske spesifikt blikk på hva som skjer når vi bruker generativ KI. Det som ligger under er en etikk om at kvalitet alltid er viktigere enn effektivitet, og at det å produsere noe av høy kvalitet, også gjør mennesket bedre. Arbeidet adler.

Det er et godt poeng, synes jeg, men det er ganske typisk at det er voksne menn som allerede kan jobbene sine (begge er intellektuelle/forfattere) som ser ned på verktøyet som effektiviserer. Det er klart at de har høyere ambisjoner enn middels når de allerede har vist at de kan få til noe som er mye bedre enn det. Jeg er også grunnleggende skeptisk til dette ekstreme fokuset som podcasten har på å forbedre og optimalisere alt mulig i livet. Ja, arbeidet adler sikkert, og det er deilig å levere noe som er så bra man kan få det, men noen ganger er kanskje effektivitet det som gjør at vi klarer å holde hodet over vannet og kan levere kvalitet i neste omgang.

 

[palmaris]

The AI Resistance is Forming. (Should You Join?) - The Deep Life by Cal Newport

After a week spent debating AI’s impact on humanity, Cal wants to turn his attention back to AI’s impact on humans. To support this shift, he brings on the writer Brad Stulberg who recently decided that he was “done” with ...

www.thedeeplife.com

Dette er en amerikansk produktivitetspodcast der to middelaldrende hvite skrivende menn diskuterer hvor nyttig generativ KI er. De argumenterer for at generativ KI i beste fall kan hjelpe deg å lage et gjennomsnittlig godt produkt, fordi det er det som er essensen i generativ KI - den er trent på "alt" og prøver å finne gjennomsnittet for å bli anerkjent som plausibel og dermed godtatt av brukeren.

Jeg kjenner meg igjen i poenget og budskapet, og det at vi egentlig forstår dette allerede (kanskje uten helt å kunne sette ord på det) tror jeg også er årsaken til at vi blir opprørt når flinke folk henfaller til å la maskinen gjøre jobben for oss. Et eksempel på det er kontroversen om filosofen Lars Fr. H. Svendsens bok om Trump og filosofene, som han skrev – eller var det maskinen som skrev? – ved hjelp av generativ KI.

Min bruk av KI har vært mer problematisk enn jeg hadde tenkt

Denne uken har filosofiprofessor Lars Fr. H. Svendsen fått kritikk for KI-bruk. I denne teksten forklarer han hvordan han har jobbet.

www.khrono.no

Podcasten har et ganske spesifikt blikk på hva som skjer når vi bruker generativ KI. Det som ligger under er en etikk om at kvalitet alltid er viktigere enn effektivitet, og at det å produsere noe av høy kvalitet, også gjør mennesket bedre. Arbeidet adler.

Det er et godt poeng, synes jeg, men det er ganske typisk at det er voksne menn som allerede kan jobbene sine (begge er intellektuelle/forfattere) som ser ned på verktøyet som effektiviserer. Det er klart at de har høyere ambisjoner enn middels når de allerede har vist at de kan få til noe som er mye bedre enn det. Jeg er også grunnleggende skeptisk til dette ekstreme fokuset som podcasten har på å forbedre og optimalisere alt mulig i livet. Ja, arbeidet adler sikkert, og det er deilig å levere noe som er så bra man kan få det, men noen ganger er kanskje effektivitet det som gjør at vi klarer å holde hodet over vannet og kan levere kvalitet i neste omgang.

Arbeid er oppskrytt Eg har ikkje brukt AI før for ca 1 år sidan, men bruker det ein del no på ting som kun er eit spursmål om tidsbruk. Det som einkvar apekatt kan gjera om ein kun hiver timer på det er ikkje ein god bruk av hovudet uansett kva andre tenkjer om at arbeidet adlar mannen. Hjernen til tenking og utvikling, AI til rutine.

 

[Harry Stoteles]

Arbeid er oppskrytt, ja!

Samtidig er det nyttig for herskerne å overbevise undersåttene om at det er bra for dem å yte, yte, yte!

(Vet ikke hvor gammelt slagordet er, men "arbeidet adler" var i alle fall veldig populært i Tyskland omkring 1800.)

 

[Harry Stoteles]

Cal Newport som jeg nevnte over, mener at den reelle gevinsten i LLM-er blir realisert når de kan brukes til å styre dataprogrammer og slikt, "in natural language". Altså at du bare prater eller skriver til maskinen for å få den til å gjøre som du vil, istedenfor å bruke masse tid på å lære deg lite intuitive menyer og klikk- og tastesekvenser. For meg er det absolutt mest tidsbesparende og frustrasjonsdempende som KI kan brukes til i dag, å spørre den om åssen i alle dager jeg kan gjøre en helt enkel ting i Word. For å spore endringer, men samtidig slippe å se endringene, må jeg klikke på "se gjennom" (?), sjekke at "spor endringer" er PÅ (den er grei), og så klikke på den ene rullegardinmenyen ved siden av og markere "Ingen markering" (??). Her ligger den reelle produktivitetsgevinsten til KI: Gjør dataprogrammene enkle igjen (GDEI).