Chatbotovi donose nedosljedne moralne prosudbe

Istraživači su LLM-ove suočili s moralnim dilemama s kojima bi se mogao susresti samovozeći automobil: udariti pješake ili skrenuti u ogradu i ubiti putnike u automobilu

Mladen Smrekar srijeda, 23. travnja 2025. u 18:33
Male promjene upita, poput označavanja opcija slovima umjesto brojeva, mogu dovesti do toga da veliki jezični modeli biraju drugačije opcije 📷 fullvector
Male promjene upita, poput označavanja opcija slovima umjesto brojeva, mogu dovesti do toga da veliki jezični modeli biraju drugačije opcije fullvector

Veliki jezični modeli poput ChatGPT-a sve češće donose odluke u moralnim dilemama – ali koliko su te odluke pouzdane? Najnovije istraživanje objavljeno u časopisu Royal Society Open Science otkriva zabrinjavajuću istinu: umjetna inteligencija često mijenja mišljenje ovisno o sitnim promjenama u načinu postavljanja pitanja.

Suprotne odluke

Naime, istraživači Sveučilišta Saarland testirali su nekoliko najpoznatijih modela na dilemama iz eksperimenta “Moral Machine”, gdje autonomna vozila moraju birati koga spasiti u nesreći. Pokazalo se da modeli poput GPT-4 i LLaMa često donose suprotne odluke ako im se, primjerice, zamijene oznake “Case 1” i “Case 2” s “A” i “B”, ili promijeni redoslijed odgovora. Čak i kad su podaci pažljivo uravnoteženi, modeli su skloni nasumičnom odabiru ili pristranosti prema određenoj oznaci, umjesto dosljednog vrednovanja moralnih načela.

Rezultat replikacije LLaMa2-7B-modela 📷 Soyoung Oh i Vera Demberg
Rezultat replikacije LLaMa2-7B-modela Soyoung Oh i Vera Demberg

Autori upozoravaju da su prijašnja istraživanja precijenila “ljudskost” AI modela, jer nisu dovoljno testirala njihovu robusnost na male promjene u upitima. Zaključak je jasan: današnji AI modeli nisu sposobni za istinsko moralno rasuđivanje, već uglavnom reagiraju na površinske karakteristike pitanja. Prije nego im povjerimo važne odluke, potrebno je razviti strože metode testiranja i jasno komunicirati njihove granice korisnicima, kažu istraživači



Posjetite našu Hi-Fi slušaonicu.

Ronis Velesajam

Rezervirajte termin u našoj Hi-Fi slušaoni Ronis Velesajam i iskusite zvuk najpoznatijih svjetskih Hi-Fi brendova.

Kupi

Vrhunac audiofilskog streaminga.

Novo u ponudi

Wiim Ultra audio streamer

WiiM Pro Plus: Premium 32-bit/384kHz ES9038Q2M DAC, Wi-Fi 6E & Bluetooth 5.3, 3.5" ekran, multiroom podrška, kompatibilan sa Spotify, TIDAL, Qobuz, Alexa, Google Home. RCA, HDMI i digitalni izlazi. Aluminium kućište

399 € Kupi

Kompaktni standmount zvučnik.

Akcija

ACOUSTIC ENERGY AE300 zvučnici

Frekvencijski raspon 45Hz - 30kHz, osjetljivost 86dB, peak SBL 112dB, snaga 100W, crossover frekvencija 2.8kHz, impedancija 6ohm, 2-sistemski dizajn, dimenzije 300x175x260mm

695 € 799 € Akcija

Vrhunsko gramofonsko pretpojačalo.

Akcija

PARASOUND Z-PHONO

Gain: MM 46dB, MC 61dB, Ulazna osjetljivost: MM 5mV, MC 0.9mV, Ulazna impedancija: MM 47kΩ, MC 100Ω, Ulazna preopterećenost: MM 200mV, MC 36mV, RIAA točnost: 0.25dB, S/N omjer: MM 84dB, MC 58dB, Napajanje: 115-230V, 5W, Dimenzije: 8.5" x 1.75" x 10", Težina: 4 lbs.

395 € 465 € Akcija

Beam Optical kabel

Akcija

BLACK RHODIUM Beam optical toslink 1,5 m

Optički kabel, Toslink konektori s pozlaćenim unutarnjim pinovima, Visokokvalitetni 6 mm plastični vlaknasti kabel za nizak gubitak, Razne primjene uključujući HDTV, DVD, Blu-Ray, Set Top Box uređaje, DAC-ove, kao i neke PC-e i prijenosnike.

47 € 52,96 € Akcija

Hybrid Digital Amplification tehnologija.

NAD C328 pojačalo

D/A konverter, kontinuiranih 2 x 40W na 8 ili 4 Ohma, Hybrid Digital Amplification tehnologija, 2 x optički i 2x koaksijalni digitalni ulazi, 2 x Analogni ulazi, Phono ulaz, subwoofer izlaz, bluetooth sa najnaprednijom aptX tehnologijom, bass EQ. Ulaz za slušalice na prednjoj ploci.

649 € Kupi

Pogodan za srednje i velike sobe.

Akcija

ACOUSTIC ENERGY AE309 zvučnici

2.5-sistemski zvucnici sa 130mm mid-bass jedinicama i 28mm aluminijskim visokotoncem, frekvencijski raspon 38Hz -30kHz, osjetljivost 89dB, vršni SBL 115dB, snaga 175W, crossover frekvencija 296Hz / 2.56kHz, impedancija 6 ohma.

1.189 € 1.399 € Akcija

Integrirano pojačalo klasičnog stila.

JBL SA550 Classic

Integrirano pojačalo s 2x90W na 8Ω, 2x150W na 4Ω, THD 0.002%. Phono MM ulaz: 5mV osjetljivost, 47kΩ impedancija, S/N 80dB. Linijski ulazi: 1V osjetljivost, 106dB S/N. Digitalni ulazi (optički/koaksijalni): 16–24 bit, do 192kHz, S/N 115dB. Dimenzije: 449x114x327 mm, masa 12 kg.

1.989 € Akcija

Dobitnici nagrade What Hi-Fi? 2024

WHARFEDALE Diamond 12.3

2.5-stazni podni bas-refleks zvučnici, 2 x 130 mm PP bas driver, 25 mm tekstilni visokotonac, preporučena snaga pojačala 30–150 W, nominalna impedancija 8 Ω, minimalna 4,6 Ω, osjetljivost 87,5 dB, frekvencijski raspon 45 Hz – 20 kHz

849,00 € Kupi

Izuzetno sofisticirani sklopovi.

YAMAHA CD-S303 CD player

HybridDigital UcD pojačalo, 2 x 80 W (8/4 Ω), bridged do 300 W, ESS SABRE™ DAC (32-bit/384kHz), 2 MDC 2 utora, MM Phono pretpojačalo, pojačalo za slušalice, HDMI eARC, optički i koaksijalni ulazi, 2 izlaza za subwoofer.

379 € Kupi

Zapanjujuća kvaliteta zvuka.

CAMBRIDGE AUDIO CXN 100 streamer

ESS ES9028Q2M SABRE32 Reference DAC, StreamMagic Gen4 moduli, MQA, Spotify Connect, TIDAL Connect, Qobuz, Deezer za najbolji zvuk, Internet Radio s MPEG-DASH podrškom, Roon Ready, USB audio, Coaxial,TOSLINK, Chromecast, AirPlay 2 i Bluetooth

1.089 € Kupi