En av verdens fremste eksperter på kunstig intelligens (KI), Geoffrey Hinton, frykter han har vært med på å utvikle teknologi som på sikt kan true menneskeheten. Han er bare den siste i rekken av forskere som står frem og advarer mot en utvikling som kan vise seg skjebnesvanger. – Det er vanskelig å se hvordan man kan forhindre onde mennesker i å bruke AI til onde formål, sier Hinton.
Professor Geoffrey Hinton (75) har i en årrekke vært ansatt både ved Universitetet i Toronto og i Google.
Nå har han sagt opp stillingen i Google for å kunne snakke mer åpent om risiko knyttet til teknologien han har vært med på å utvikle: kunstig intelligens.
– Jeg synes ikke de bør oppskalere dette mer før de har forstått hvordan de kan kontrollere det, sier han i et intervju med The New York Times.
Til BBC sier han at såkalte tekstroboter snart kan bli mer intelligente enn mennesker.
Han peker på flere risikofaktorer: spredning av desinformasjon, tap av arbeidsplasser, nye «autonome» våpen basert på KI og aktører som bruker teknologien til ondsinnede formål.
På sikt frykter han at kunstig intelligens kan utvikle uventet atferd og utgjøre en trussel mot menneskeheten.
Det har kommet flere bekymringsmeldinger fra forskningsmiljøene, og det blir lagt merke til at det er de med lengst erfaring og størst kompetanse som slår alarm.
After the San Francisco start-up OpenAI released a new version of ChatGPT in March, more than 1,000 technology leaders and researchers signed an open letter calling for a six-month moratorium on the development of new systems because A.I. technologies pose “profound risks to society and humanity.”
Så kom en enda mer eksklusiv gruppe på banen og advarte.
Several days later, 19 current and former leaders of the Association for the Advancement of Artificial Intelligence, a 40-year-old academic society, released their own letter warning of the risks of A.I. That group included Eric Horvitz, chief scientific officer at Microsoft, which has deployed OpenAI’s technology across a wide range of products, including its Bing search engine.
Hinton har ikke skrevet under på noen opprop. Han sa opp sist måned. Sist torsdag snakket han med sjefen for morselskapet til Google, Alphabet, Sundar Pichai.
Hinton er en pioner på AI. Hans karriere begynte ved Universitetet i Edinburgh i 1972.
Dr. Hinton, a 75-year-old British expatriate, is a lifelong academic whose career was driven by his personal convictions about the development and use of A.I. In 1972, as a graduate student at the University of Edinburgh, Dr. Hinton embraced an idea called a neural network. A neural network is a mathematical system that learns skills by analyzing data. At the time, few researchers believed in the idea. But it became his life’s work.
På 1980-tallet var han ansatt ved Carnegie Mellon University i USA. Men Hinton nektet å ta imot finansiering fra Pentagon og dro til Canada. Han er sterk motstander av bruk av roboter på slagmarken.
Det var i 2012 at gjennombruddet kom:
In 2012, Dr. Hinton and two of his students in Toronto, Ilya Sutskever and Alex Krishevsky, built a neural network that could analyze thousands of photos and teach itself to identify common objects, such as flowers, dogs and cars.
Når forskerne advarer mot farene ved AI uten regulering, er det fordi det er kappløpet mellom Microsoft og Google som driver utviklingen. Den tilbakeholdenhet man tidligere erfarte, er borte. Nå er det kamp på kniven om å oppnå dominans.
Until last year, he said, Google acted as a “proper steward” for the technology, careful not to release something that might cause harm. But now that Microsoft has augmented its Bing search engine with a chatbot — challenging Google’s core business — Google is racing to deploy the same kind of technology. The tech giants are locked in a competition that might be impossible to stop, Dr. Hinton said.
‘The Godfather of A.I.’ Leaves Google and Warns of Danger Ahead
For half a century, Geoffrey Hinton nurtured the technology at the heart of chatbots like ChatGPT. Now he worries it will cause serious harm.
Financial Times: Oljefondet ber om statlig regulering av kunstig intelligens
Kjøp Susanne Wiesingers bok «Kulturkamp i klasserommet» her! Du kan også kjøpe e-boken her.
Kjøp «Usikker vitenskap» av Steven E. Koonin som papirbok her og som ebok her!
Kjøp «Den døende borgeren» av Victor Davis Hanson som papirbok her og som ebok her!
