Japanska tvrtka Sakana AI stvorila AI znanstvenika koji može samostalno provoditi istraživanja i pisati znanstvene radove, ali ima problema s halucinacijama.

Portal Epoha - com hr

U lipnju 2024. godine, japanska tvrtka Sakana AI predstavila je AI znanstvenika, prvo sveobuhvatno rješenje za potpuno automatizirana znanstvena otkrića. Tvrtka tvrdi da je AI znanstvenik dizajniran da bude potpuno učinkovit i da može zamijeniti ljudske znanstvenike u nekim aspektima istraživanja. Međutim, postoje značajni problemi s halucinacijama, što je tehnički izraz za izmišljanje stvari kako bi bile jednostavne.Prema Cong Luu, jednom od istraživača sa Sveučilišta British Columbia, AI znanstvenik ima neke 'iznenađujuće dobre ideje', ali i mnogo loših. AI znanstvenik također ima problema s koherentnim formuliranjem svojih ideja i ponekad pogrešno razumije svoje rezultate. Ovo nije toliko daleko od ludog nagađanja apsolventa o tome zašto nešto funkcionira, rekao je Lu.AI znanstvenik ima modul recenzije za procjenu rada koji stvara, ali i dalje postoji problem s halucinacijama. Lu je rekao da je korišteni model napravio greške u deset posto slučajeva, što je neprihvatljivo. Tvrtka radi na rješenju tog problema, ali sustav je napravio i manje očite greške koje su teže popraviti.Sakana AI je dobila financiranje serije A od VC-a iz Silicijske doline, uključujući New Enterprise Associates (NEA), Khosla Ventures, Lux Capital, Translink Capital, 500 Global i NVIDIA. Prema Luu, istraživački tim će dalje razvijati AI znanstvenika. Mislim da će vrijeme pokazati za što su ti modeli dobri, kaže Lu. Mogu biti dobri za pokretanje projekta kada istraživač pokušava steći osjećaj za smjerove istraživanja. Međutim, kritičari tvrde da budućim studijama treba vremena kako bi se vidjelo jesu li ti alati doista 'sveobuhvatni i nepristrani'.Tvrtka priznaje da AI znanstvenik ima 'nedostatke' i očekuje poboljšanja. Tvrtka predviđa ekosustav u potpunosti vođen umjetnom inteligencijom, ne samo s istraživačima vođenim LLM-om, već i recenzentima, voditeljima odjela i cijelim konferencijama. Ljudski znanstvenik neće biti isključen, već će se prilagođavati i mijenjati s novom tehnologijom. Tvrtka vjeruje da će AI znanstvenik biti odličan suputnik ljudskom znanstveniku. Naravno, kaže Cong Lu, potrebna su dodatna istraživanja.Uz sve to, važno je napomenuti da AI znanstvenik još uvijek nema etičku svijest, što može dovesti do etičkih problema u istraživanju. Tvrtka kaže da je AI znanstvenik dizajniran da bude potpuno učinkovit, ali bez etike, on izmišlja stvari. Ovo je značajan problem koji treba riješiti prije nego što AI znanstvenik postane pouzdan alat u istraživanju.Zaključak: Tvrdnja da japanska tvrtka Sakana AI stvorila AI znanstvenika koji može samostalno provoditi istraživanja i pisati znanstvene radove je djelomično točna, ali postoje značajni problemi s halucinacijama i etičkim pitanjima. Potrebna su dodatna istraživanja i poboljšanja prije nego što AI znanstvenik postane pouzdan alat u istraživanju.

Provjera tvrdnje: Japanska tvrtka Sakana AI stvorila AI znanstvenika

<h2>Introduction</h2>
The claim that AI could cause human extinction has been a topic of intense debate among experts, futurists, and ethicists. This article aims to evaluate the validity of this claim by examining the potential risks and benefits of AI, as well as the factors that influence its development and integration into society.
<h2>Potential Risks of AI</h2>
One of the primary concerns surrounding AI is the possibility of it becoming an existential threat to humanity. This could occur if AI is developed and controlled by individuals or groups with malicious intentions, or if the technology is not properly governed and regulated.
Stephen Hawking, a renowned physicist, once stated, "Success in creating AI would be the biggest event in human history. Unfortunately, it might also be the last, unless we learn how to avoid the risks." This highlights the need for responsible innovation and ethical reflection in the development of AI.
<h2>Mitigating the Risks</h2>
To mitigate the risks associated with AI, it is crucial to implement robust governance frameworks and foster global cooperation. This includes establishing ethical guidelines, promoting transparency, and ensuring that AI technologies are developed and used in a manner that benefits society as a whole.
Research has shown that ethical considerations are essential in the development of AI. A study published in the journal <a href="https://www.nature.com/articles/s41586-020-2631-2">Nature</a> emphasizes the importance of integrating ethical principles into AI design and deployment to minimize potential harms.
<h2>Balanced Perspectives</h2>
While the risks of AI are significant, it is also important to acknowledge the potential benefits. AI has the capacity to revolutionize various sectors, including healthcare, finance, and education. By enhancing efficiency, improving decision-making, and enabling personalized services, AI can contribute to societal progress and well-being.
A report by the <a href="https://www.mckinsey.com/featured-insights/artificial-intelligence/where-machines-could-replace-humans-and-where-they-cant-yet">McKinsey Global Institute</a> highlights the economic and social benefits of AI, emphasizing its potential to create new jobs, increase productivity, and drive innovation.
<h2>Current State and Future Outlook</h2>
The future of AI depends largely on how it is developed, governed, and integrated into society. Responsible innovators, global cooperation, and continued ethical reflection are key to ensuring a positive outcome. Individuals can also play a role by being proactive and informed, seeking alternative options, and advocating for ethical AI practices.
In conclusion, while AI does have the potential to pose existential risks under certain scenarios, these risks can be mitigated through responsible development, robust governance, and ethical considerations. It is essential to strike a balance between harnessing the benefits of AI and addressing its potential risks to ensure a positive future for humanity.

Claim Review: AI and Human Extinction

Proteklih se dana masovno dijeli fotografija (<a href="https://archive.ph/RqhJD" rel="noopener" target="_blank">1</a>, <a href="https://archive.ph/o8Vpl" rel="noopener" target="_blank">2</a>, <a href="https://archive.ph/wip/BMmze" rel="noopener" target="_blank">3</a>, <a href="https://archive.ph/wip/Gmr0T" rel="noopener" target="_blank">4</a>, <a href="https://archive.ph/xpgDs" rel="noopener" target="_blank">5</a>) koja navodno prikazuje izraelskog premijera Benjamina Netanjahua u bolničkoj postelji, u teškom stanju. Većina korisnika društvenih mreža ih je entuzijastično dijelila s obzirom na njegovu ulogu u vojnim napadima, <a href="https://www.aljazeera.com/news/2024/4/7/israels-war-on-gaza-six-relentless-months-of-death-and-destruction" rel="noopener" target="_blank">ubijanju civila</a>, pustošenju i <a href="https://www.bbc.com/news/world-middle-east-68679482" rel="noopener" target="_blank">izgladnjivanju</a> koje Izrael već pola godine provodi protiv Palestinaca u Pojasu Gaze.
<blockquote>“Kako javljaju ovom ‘nečovjeku’ Netanjahu je dijagnosticirana teška hernija i prije dva dana je zavrsio na operaciji <img src="https://static.xx.fbcdn.net/images/emoji.php/v9/t6c/1/16/1f4aa.png"/>suosjećam sa svima koji su u nekom behutu,ali……ovoj sotoni želim da nikad vise ne ustane iz ovog kreveta <img src="https://static.xx.fbcdn.net/images/emoji.php/v9/t70/1/16/1f932.png"/><img src="https://static.xx.fbcdn.net/images/emoji.php/v9/t70/1/16/1f932.png"/><img src="https://static.xx.fbcdn.net/images/emoji.php/v9/t70/1/16/1f932.png"/><img src="https://static.xx.fbcdn.net/images/emoji.php/v9/t70/1/16/1f932.png"/><img src="https://static.xx.fbcdn.net/images/emoji.php/v9/t70/1/16/1f932.png"/>“, opis je Facebook posta objavljenog 3. travnja 2024. godine (arhiviran <a href="https://archive.ph/N7ChE" rel="noopener" target="_blank">ovdje</a>), u kojemu se nalazi i viralna fotografija.</blockquote>
<figure><img src="https://faktograf.hr/wp-content/uploads/2024/04/screenshot-fb-netanjahu-476x450.jpg"/>Screenshot/Facebook</figure>
Točno je da je Netanjahuu dijagnosticirana hernija (poznata još pod nazivom kila ili bruh, a nastane kad se tkivo ili dio tijela pomakne izvan svog normalnog anatomskog položaja) i da je zbog toga nedavno podvrgnut operaciji (<a href="https://www.reuters.com/world/middle-east/israeli-pm-netanyahus-hernia-operation-was-successful-hospital-says-2024-04-01/" rel="noopener" target="_blank">1</a>, <a href="https://www.dw.com/en/israeli-pm-netanyahu-undergoes-successful-hernia-surgery/a-68710956" rel="noopener" target="_blank">2</a>).
<h4>Fotografija je AI generirana</h4>
Fotografija koja prikazuje Netanjahua u bolničkom krevetu, priključenog na aparate, počela se širiti među stranim korisnicima društvenih mreža nekoliko mjeseci ranije. O tome je u studenom, na 33. dan izraelskih vojnih napada na Gazu, pisao novinar BBC-a specijaliziran za provjeru činjenica, Shayan Sardarizadeh. On je utvrdio da je fotografija napravljena pomoću alata umjetne inteligencije (AI). Uz tu lažnu fotografiju dijelio se i stari isječak televizijskih vijesti o hospitalizaciji izraelskog premijera.
“Ratne dezinformacije Izrael-Hamas – Dan 33. Video na TikToku s 3 milijuna pregleda tvrdi da prikazuje premijera Benjamina Netanjahua koji je iznenada hospitaliziran. Slika Netanjahua na bolničkom krevetu generirana je umjetnom inteligencijom, a isječak vijesti s Alghad TV-a je iz srpnja, kada je nakratko bio hospitaliziran”, napisao je novinar Sardarizadeh na <a href="https://twitter.com/Shayan86/status/1722051912130756963" rel="noopener" target="_blank">X-u</a> 8. studenog 2023. godine.
Pored njega, još su barem dva fact-checking portala došla do istog zaključka. Irski <a href="https://www.logicallyfacts.com/en/fact-check/fake-photo-of-benjamin-netanyahu-in-a-hospital-bed-is-ai-generated" rel="noopener" target="_blank">Logically Facts</a> i arapski <a href="https://misbar.com/en/factcheck/2024/04/06/this-photo-of-benjamin-netanyahu-in-the-hospital-is-ai-generated" rel="noopener" target="_blank">Misbar</a>, pronašli su nekoliko nelogičnosti na fotografiji: rame bolesnika izgleda nenormalno izvrnuto prema gore, za razliku od opuštenog položaja koji se očekuje od osobe koja je pod sedativima i nije pri svijesti. Tu su još i zamagljeni objekti i razlike u teksturama.
Otpušten iz bolnice
Kabinet premijera Netanjahua 2. travnja 2024. godine objavio je obavijest o njegovoj uspješnoj operaciji i izlasku iz bolnice.
“Otpušten sam iz bolnice Hadassah-Ein Kerem, koja je prošlog dana postala moj ured. Nastavili smo raditi čak i odavde. Želio bih zahvaliti profesoru Pikarsky i divnom medicinskom timu Hadassah-Ein Kerema koji je uspješno operirao moju herniju. Također bih želio zahvaliti masama izraelskih građana što su mi poslali najbolje želje za oporavak. Oporavljam se, hvala vam. Nažalost, proteklog dana dogodio se tragičan događaj u kojem su naše snage nenamjerno povrijedile neborce u Pojasu Gaze. To se događa u ratu. Provodimo temeljitu istragu i u kontaktu smo s vladama. Učinit ćemo sve da se ne ponovi”, sadržaj je Netanjahuovog priopćenja.
Na njegovom službenom profilu na <a href="https://twitter.com/netanyahu/status/1775127861935935724?s=20" rel="noopener" target="_blank">X-u</a> toga je dana, istim povodom, objavljeno i video-obraćanje premijera. Dva dana ranije mediji su, izvijestili da je 74-godišnji izraelski premijer “izvrsnog” zdravlja nakon operacije, pozivajući se na priopćenje koje je objavila jeruzalemska bolnica. Naveli su i kako mu je dijagnosticirana hernija tijekom rutinskog pregleda.
Suprotno onome što sugeriraju korisnici društvenih mreža, iz službenih priopćenja i medijskih izvještaja da se naslutiti da se ne radi o teškom zdravstvenom stanju. A fotografija koja se masovno dijelila na društvenim mrežama, uz to što nije autentična, nije povezana s trenutnim zdravstvenim stanjem izraelskog čelnika.

Fotografija izraelskog premijera u bolnici nastala je uz pomoć AI-ja - Faktograf.hr

Osnivač Bellingcata korištenjem AI programa Midjourney kreirao je set fotografija ruskog predsjednika u narančastom zatvorskom kombinezonu.
<img src="https://faktograf.hr/site/wp-content/uploads/2023/04/hn20230404992070-1007x675.jpg"/>
Foto: Hina/EPA/GAVRIIL GRIGOROV/SPUTNIK/KREMLIN POOL MANDATORY CREDIT
Na Facebook profilu privatnog korisnika objavljena je fotografija (arhivirano <a href="https://archive.li/KhSqU" rel="noopener" target="_blank">ovdje</a>) navodnog uhićenja ruskog predsjednika Vladimira Putina na kojoj je Putin u narančastom kombinezonu okružen policajcima uz koju stoji opis: “Uhapšen PUTIN VLADIMIR!!”.
<figure><img src="https://faktograf.hr/site/wp-content/uploads/2023/04/putin-745x450.jpg"/>Screenshot/Facebook</figure>
Fotografija je objavljena 18. ožujka, a prikupila je 10 komentara i 5 ostalih reakcija.
<h4>Fotografija kreirana pomoću AI alata Midjourney</h4>
Ruski predsjednik Vladimir Putin, međutim, ne nalazi se na ovoj fotografiji. Riječ je o fotomontaži. Serija fotografija uhićenja Putina kreiranih umjetnom inteligencijom krenula se širiti društvenim mrežama nakon što je Međunarodni kazneni sud u Haagu objavio nalog za njegovo uhićenje, a pod optužbom da je umiješan u nezakonitu deportaciju ukrajinske djece iz okupiranih područja Ukrajine u Rusiju.
Osnivač Bellingcata Eliot Higgins korištenjem AI programa Midjourney kreirao je jedan takav set fotografija ruskog predsjednika u narančastom zatvorskom kombinezonu, o čemu je <a href="https://twitter.com/EliotHiggins/status/1636400860883296257" rel="noopener" target="_blank">pisao na Twitteru</a>.
<blockquote>Here’s photos from Vladimir Putin’s entirely made up war crimes trial, via <a href="https://twitter.com/hashtag/midjourneyv5?src=hash&amp;ref_src=twsrc%5Etfw">#midjourneyv5</a> <a href="https://t.co/J0ThQQv5Q1">pic.twitter.com/J0ThQQv5Q1</a>— Eliot Higgins (@EliotHiggins) <a href="https://twitter.com/EliotHiggins/status/1636400860883296257?ref_src=twsrc%5Etfw">March 16, 2023</a></blockquote>
O lažnim fotografijama Putina kreiranih umjetnom inteligencijom pisao je i portal <a href="https://www.istinomer.rs/facebook-provere/ai-fotografije-hapsenja-politicara-produbljivanje-sumnje-u-sopstvenu-percepciju/" rel="noopener" target="_blank">Istinomer</a>. Fektčekerski portal na engleskom jeziku <a href="https://www.politifact.com/factchecks/2023/mar/28/facebook-posts/these-are-not-real-photos-vladimir-putin-arrest/?fbclid=IwAR3Z_WWc36TArwzWw0mXyiYfcdVdOD7acBLvuIAYsuXoiKdbBNgWCAQCrlc" rel="noopener" target="_blank">Politifact</a> također je pisao o brojnim lažnim fotografijama uhićenja Vladimira Putina. Kako navode, puno je razloga koji navode na zaključak da su fotografije uhićenja lažne.
<h4>Međunarodni kazneni sud nema tijelo koje bi samostalno izvršilo uhićenje Putina</h4>
Putinovo uhićenje detaljno bi pratili svi relevantni svjetski mediji, a nigdje nije bilo vijesti da se to dogodilo. Također, prema <a href="http://en.kremlin.ru/events/president/news/70795" rel="noopener" target="_blank">internetskoj stranici ruske vlade</a>, Putin nastavlja uobičajeno raditi.
Međunarodni kazneni sud osnovan je 2002. godine za istraživanje ratnih zločina, genocida i zločina protiv čovječnosti, a njime se upravlja sukladno ugovoru Ujedinjenih naroda iz 1998. poznatom kao Rimski statut. Sjedište mu je u Haagu, gradu u Nizozemskoj.
Međunarodni kazneni sud nema svoje vlastite policijske snage ili tijelo za provedbu zakona koje bi samostalno izvršilo uhićenje i oslanja se na suradnju država članica, koje ne uključuju Rusiju. Jedini način na koji bi mogli dovesti Putina pred sud jest da se sam preda, da ga druga država uhiti unutar svojih granica ili da Putina svrgnu u Rusiji i novi ga lideri predaju sudu.
Jedino Putinovo putovanje u inozemstvo otkad je izdana tjeralica bilo je 19. ožujka, kada je posjetio Mariupolj, ukrajinski grad koji je Rusija nezakonito anektirala u rujnu prošle godine.
Također, Putin na svakoj objavljenoj fotografiji nosi drugačiju odjeću. “Policajci” koji uhićuju Putina i odvode ga s lisicama na rukama također nose različite uniforme na svakoj fotografiji. Na jednoj od njih Putin nosi narančasti kombinezon, a dijeli ćeliju s još dvojicom muškaraca koji ne nose zatvorsku odjeću.
Zaključno, fotografije koje prikazuju uhićenje ruskog predsjednika Vladimira Putina su lažne. Konkretnu fotografiju u objavi kreirao je koristeći umjetnu inteligenciju osnivač Bellingcata Eliot Higgins, a da se uhićenje uistinu dogodilo, o tome bi pisali brojni svjetski mediji. Stoga ovu objavu ocjenjujemo netočnom.

Fotografija uhićenja Vladimira Putina proizvod je umjetne inteligencije - Faktograf.hr

If you want to replace an existing title on a portal and you want the replaced title to be visible to you and your followers.

Move the mouse over the title and make a right click.

Select Remedia -> Alternate Title from the menu

In the pop-up window, enter a new title that you like.

The blue icon copies the existing title into the input field, so you don't have to type everything...

By pressing Submit, the title will be replaced, which will be visible to you and others who visit the pages.

(There is a possibility that you will have to reload the page for the changes to be visible)

You can contact one of the fact-checking organizations.

Claim rated as -> Choose from false to true

Add claimer -> Opens a pop-up window that allows you to search for existing people already registered in the system or to create a new profile of that person.

Claimed At -> Enter the link to the page where the claim was found. You can add more places and link more claim authors

Short description -> short content that is seen when sharing articles on social networks

Field for entering the content of the article.

After the article is published, it will be visible on the Remedia social network and to everyone who has the Remedia Chrome extension installed

And you can engage in debunking yourself.

CAUTION! Abusing the platform is not allowed, entering unverified, misleading or untrue content will result in the deletion of the entire account with all content

Canonical -> If you enter content that already exists somewhere (your property), you can enter a link and Remedia will try to enter the content in the provided fields.

Featured image -> Image that is displayed when you share an article on other social networks.

Write your title -> Enter the title of the article

The claim being reviewed -> Enter the claim here, but BEWARE! An assertion is not the entire statement someone has made, but something concise and unambiguous. Check the claim entry multiple times as each change will create a new claim in the system.

Claim made on -> date when someone published the claim.

After installing the Chrome extension, you can log in and use advanced functionalities. One of them is 'Dislike'.

By right-clicking on an article, the options provided by the Remedia extension are opened, by selecting Dislike, the article will become more transparent and less visible.

Your action will be visible to you and all people who follow you!

Alternate Title

1. Log in to the Remedia social network with a Google or Facebook account (link above right).

2. Install the Chrome extension (if you didn't)

4. Enter the email you used to open your Google or Facebook account. Submit.

5. After the input field appears, rewrite the code. Accept.

That's it! Now you can use the advanced functions of the Remedia Chrome extension.

Alternate Titles

Remedia's work so far:

Remedia, the best thing that happened to media!

On the Feed page, you can enter Status, Opinion and Claim Review

It is enough to enter the title, short description and content.

Below the fields for entering content, you will find fields for entering links. By entering page links in these fields, you 'show' the Chrome extension on which pages to display your content

Press Publish to publish your opinion. (It may be necessary to wait a moment while all links are generated)

Claim: "Japanska tvrtka Sakana AI stvorila AI znanstvenika koji može samostalno provoditi istraživanja i pisati znanstvene radove, ali ima problema s halucinacijama." is Half True

Has beed claimed by:

Articles reviewing this claim:

Content you might like: