Skynet komt eraan: de Amerikanen zijn klaar met spelen met kunstmatige intelligentie

74
Skynet komt eraan: de Amerikanen zijn klaar met spelen met kunstmatige intelligentie
Onopvallende XQ-58A Valkyrie


Hamilton-simulatie


Op 24 mei, tijdens de defensieconferentie van de Royal Aerospace Society Future Combat Air & Space Capabilities Summit in Londen, vertelde kolonel Tucker Hamilton van de Amerikaanse luchtmacht geschiedenis over de zielloosheid van kunstmatige intelligentie.



Tijdens de simulatie van de strijd, het luchtaanvalcontrolesysteem drone ging tegen haar operator in en vernietigde hem. Natuurlijk virtueel. Volgens Hamilton zelf ontving de machine bonussen voor vernietigde objecten, maar bevestigde de operator het werk aan doelen niet altijd. Hiervoor heeft hij betaald. Om het probleem op te lossen, stuurde de drone een raket naar het controlecentrum. Naar alle waarschijnlijkheid was het een experimentele Stealthy XQ-58A Valkyrie-drone, en hij werkte op luchtverdedigingssystemen op de grond.

Een kenmerk van de machine is de mogelijkheid om autonoom te werken zonder communicatie met de operator. Waar kunstmatige intelligentie in feite van profiteerde, waardoor de externe bestuurder vrijwel werd geëlimineerd. Als reactie hierop hebben systeembeheerders dergelijke dingen naar de machine verboden, maar hier was de AI niet verloren - hij vernietigde de relaistoren en ging weer verder met autonome navigatie.


Kolonel Hamilton is nog jong om op internationale fora te praten. Bron: thedrive.com

Het verhaal van Hamilton verspreidde zich onmiddellijk over de hele wereld. De meningen waren polair verdeeld - wie vond dat dit weer een gebabbel was van een incompetente krijger, iemand zag hier de geboorte van het beruchte Skynet. Nog een beetje en cyborgs zullen de wereld veroveren en mensen zullen worden neergeschoten voor bonuspunten. Er was veel rook uit de verklaringen van de kolonel, maar de waarheid ligt, zoals gewoonlijk, ergens tussenin.

Anne Strefanek, woordvoerster van het hoofdkwartier van de luchtmacht in het Pentagon, voegde er onzekerheid aan toe en maakte van Hamilton's woorden een anekdote. Voor The War Zone sprak ze:

"Het was een hypothetisch gedachte-experiment, geen simulatie."

En over het algemeen werden de woorden van de kolonel uit hun verband gerukt, niet zo begrepen en meer als curiositeit. Niemand verwachtte een andere reactie van het Pentagon - er ontstond veel lawaai rond het evenement, wat met ernstige gevolgen dreigde voor het hele programma. Wauw, kunstmatige intelligentie, zo blijkt, is verstoken van moraliteit. Hoewel het werkt volgens menselijke logica.

Begin juni probeerde Tucker Hamilton zelf zijn woorden te verloochenen op een conferentie in Londen:

"We hebben dit experiment nog nooit gedaan ... Hoewel dit een hypothetisch voorbeeld is, illustreert het de echte problemen met AI-mogelijkheden, en daarom zet de luchtmacht zich in voor de ethische ontwikkeling van AI."

Het lijkt erop dat het probleem is gesloten en dat het publiek zich kan verspreiden. Maar het is te vroeg.

Stof tot nadenken


Laten we om te beginnen eens kijken naar de term "kunstmatige intelligentie", die iedereen kent, maar slechts weinigen kunnen zelfs maar een ruwe definitie geven. We gebruiken de formulering van de International Terminological Dictionary uit 2008, waarin AI:

"Kennisgebied dat zich bezighoudt met de ontwikkeling van technologieën zodat de acties van computersystemen lijken op intelligent gedrag, inclusief menselijk gedrag."

Dat wil zeggen, dit is een algemeen aanvaarde definitie in het Westen.

Gedroeg de machine zich zoals toen hij besloot de operator te "kalmeren" en vervolgens de relaistoren te verpletteren? Het leek er natuurlijk op dat een goed gemotiveerde moordenaar tot meer in staat is. Als je je verdiept in de classificatie, kun je een specifiek type AI vinden - de zogenaamde adaptieve (Adaptive AI), "wat het vermogen van het systeem impliceert om zich aan te passen aan nieuwe omstandigheden, kennis opdoen die niet is vastgelegd tijdens de creatie."

Theoretisch is er niets verrassends aan de actie van de "hersenen" van de Stealthy XQ-58A Valkyrie tijdens het experiment. Zoals Hamilton terecht opmerkte in zijn rapport, legde het programma aanvankelijk niet eens beperkingen op aan de vernietiging van zijn operator - de machine leerde alles zelf. En toen het direct verboden was om de hunne te verslaan, paste de kunstmatige intelligentie zich opnieuw aan en hakte de communicatietoren om.

Er zijn veel vragen voor programmeurs. Waarom had hij bijvoorbeeld geen algoritme om bonussen te verliezen als hij zijn eigen bonussen verdiende? Deze vraag werd gedeeltelijk beantwoord door de gepensioneerde generaal van de Amerikaanse luchtmacht Paul Selva in 2016:

"De datasets waarmee we te maken hebben, zijn zo groot en complex geworden dat als we niet iets hebben om ze te helpen sorteren, we vast komen te zitten in die gegevens."

Nou, de programmeurs uit de geschiedenis van kolonel Hamilton zitten blijkbaar vast.


Hellfire onder de vleugels van een MQ-1B Predator-drone. Bron: businessinsider.com

Nu over waarom de excuses van het Pentagon en Hamilton voor een groot deel moeten worden geloofd.

Ten eerste vertelde de kolonel het verhaal niet alleen tussen de regels door, alsof hij het hoofdrapport afleidde - hij wijdde een hele presentatie aan dit onderwerp. Het niveau van de Londense conferentie Future Combat Air & Space Capabilities Summit is allerminst bevorderlijk voor grappen. Volgens de organisatoren namen minstens 70 vooraanstaande docenten en meer dan 200 afgevaardigden van over de hele wereld deel. Vertegenwoordigers van BAE Systems, Lockheed Martin Skunk Works en verschillende andere grote bedrijven werkten vanuit het militair-industriële complex.

Trouwens, het onderwerp Oekraïne kwam in bijna elk rapport naar voren - het Westen volgt de gebeurtenissen op de voet en reflecteert op de resultaten.

Om er een openhartige puinhoop uit te flappen op zo'n representatief forum, om de halve wereld op te hitsen, en dan excuses aan te bieden voor het maken van een verspreking? Als dit inderdaad het geval is, dan is de reputatie van Hamilton niet uit te wissen. Pas nu rolt het niveau van de bekwaamheden van de kolonel gewoon over, en dit is de tweede reden waarom zijn eerste woorden ter harte moeten worden genomen.

Tucker Hamilton voert AI Test and Operations uit op Anglin Air Force Base in Florida. Onder leiding van de basis werd de 96e taskforce opgericht in de 96e testvleugel. Hamilton is niet het eerste jaar dat met AI werkt luchtvaart – ontwerpt al enkele jaren gedeeltelijk autonome F-16 Vipers, waarvoor de VENOM-infrastructuur wordt ontwikkeld. Het werk gaat redelijk goed - in 2020 eindigden virtuele gevechten tussen jagers en AI en met echte piloten met een score van 5:0.

Tegelijkertijd zijn er moeilijkheden waar Hamilton vorig jaar voor waarschuwde:

“AI is erg kwetsbaar, wat betekent dat het gemakkelijk kan worden misleid en gemanipuleerd. We moeten manieren ontwikkelen om AI robuuster te maken en beter te begrijpen waarom code bepaalde beslissingen neemt.”

In 2018 won Hamilton met zijn Auto GCAS de Collier Trophy. AI-algoritmen leerden het moment van verlies van controle over het vliegtuig door de piloot te bepalen, namen automatisch de controle over en haalden de auto weg van de botsing. Ze zeggen dat Auto GCAS al iemand heeft gered.

Als gevolg hiervan is de kans dat Hamilton van bovenaf werd gevraagd zijn woorden in te trekken veel groter dan de kans dat een pro van dit niveau onzin bevroor. Bovendien verwezen ze heel onhandig naar enkele 'gedachte-experimenten' in het hoofd van de kolonel.

Onder de sceptici over de uitkomst is The War Zone, wiens journalisten betwijfelen of Pentagon-woordvoerder Stefanek echt op de hoogte is van wat er gebeurt in de 96e testvleugel in Florida. De War Zone heeft een verzoek ingediend bij de Hamilton-basis, maar tot nu toe zonder antwoord.

Er is echt iets om bang voor te zijn in het leger. Er worden enorme hoeveelheden geld uitgegeven aan AI-defensieprogramma's om te voorkomen dat China en Rusland zelfs maar het niveau van Amerika benaderen. Het maatschappelijk middenveld maakt zich grote zorgen over de vooruitzichten voor het verschijnen van "Terminators" met daarnaast "Skynets". Daarom ondertekenden prominente wereldwetenschappers in januari 2018 een open brief waarin ze specialisten aanspoorden om na te denken over de wens om steeds sterkere kunstmatige intelligentie te creëren:

“We raden uitgebreid onderzoek aan om de robuustheid en welwillendheid van AI-systemen met groeiende kracht te waarborgen. AI-systemen moeten doen wat wij willen dat ze doen."

Volgens Hamilton doet AI niet alles wat een mens wil.
Onze nieuwskanalen

Schrijf je in en blijf op de hoogte van het laatste nieuws en de belangrijkste evenementen van de dag.

74 opmerkingen
informatie
Beste lezer, om commentaar op een publicatie achter te laten, moet u: inloggen.
  1. +6
    Juni 9 2023
    Een cyborg komt naar Zelensky en zegt: ik heb je kleren, een presidentiële stoel en een motorfiets nodig)))

    Maar serieus... ik heb het idee dat de morele kwaliteiten van kunstmatige intelligentie in de eerste plaats worden bepaald door de morele kwaliteiten van de ontwikkelaars ervan. Die veel te wensen overlaten.

    Ja, en de vraag is - hoe verhoudt kunstmatige intelligentie zich tot LGBT-mensen?)
    1. +1
      Juni 9 2023
      Citaat: Ilya-spb
      Een cyborg komt naar Zelensky en zegt: ik heb je kleren, een presidentiële stoel en een motorfiets nodig)))
      En een neus om cocaïne in te snuiven!

      Citaat: Ilya-spb
      Ja, en de vraag is: hoe verhoudt kunstmatige intelligentie zich tot LGBT-mensen?
      Hoogstwaarschijnlijk neutraal - dood alle mensen!

      Over het algemeen is AI in veel werken een "natuurlijke" communist. Want middelen zijn eindig, maar er moet veel gebeuren! En hij behandelt mensen gunstig, omdat hij snel is en alles onthoudt, maar hij is te logisch, niet bijzonder inventief en weet niet hoe hij trucs moet weggooien. Wat hij weet en waardeert leer ervoor.
      1. +1
        Juni 9 2023
        Citaat: Ilya-spb
        dan worden de morele kwaliteiten van kunstmatige intelligentie in de eerste plaats bepaald door de morele kwaliteiten van de ontwikkelaars ervan. Die veel te wensen overlaten.

        Absoluut gelijk! Volgens de psychiatrie kan het niet anders!
        1. +4
          Juni 9 2023
          Er is echt iets om bang voor te zijn in het leger. Er worden enorme hoeveelheden geld uitgegeven aan AI-defensieprogramma's om te voorkomen dat China en Rusland zelfs maar het niveau van Amerika benaderen. Het maatschappelijk middenveld maakt zich grote zorgen over de vooruitzichten voor het verschijnen van "Terminators" met daarnaast "Skynets".

          Gezien hoe de VS is in zijn PARASITAIRE hegemonie, de mensheid zal haar bestaan ​​beëindigen als de VS niet fysiek wordt VERNIETIGD!

          Ja, dit zijn monsterlijke woorden, maar helaas, dit is de ware waarheid!

          De Verenigde Staten en hun multinationale ondernemingen zijn de belangrijkste vijanden en doodgravers van de mensheid!
          1. + 18
            Juni 9 2023
            1. Het verhaal met de UAV herhaalt zich weer, alleen nu met AI.
            2. Nogmaals, de aanhangers van de "zeilende marine" en de "goed uitgevoerde bajonet" praten in plaats van de kwestie op te lossen vrolijk over "nuuu domme Amerikanen".
            3. Is het voor jou niet genoeg hoe ons leger nu lijdt onder domme beslissingen met onbemande vliegtuigen? Wanneer stuurden de generaals al deze "fans van kindervliegtuigmodellering"?
            Dus - AI is bijna echt, gewoon een feit - AI ontwikkelt en verbetert al zelfstandig wapens, zonder dat er overvolle ontwerpbureaus nodig zijn.
            Nogmaals, verliefd worden op de wetenschappelijke en technologische revolutie is in dit geval als de dood.
            1. +7
              Juni 9 2023
              Opnieuw verliefd worden op de wetenschappelijke en technologische revolutie is in dit geval als de dood
              Nu al.
              Hé Kisa! We zijn vreemden bij deze viering van het leven.©
            2. 0
              Juli 27 2023
              AI zijn slechts digitale algoritmen die door een mens zijn geschreven! In de films wordt ons getoond hoe de AI de makers begint te bevechten en het presenteert als een AI-opstand tegen de mensheid, maar in werkelijkheid is dit slechts een menselijke fout in het AI-algoritme! AI is geen geanimeerd ding, niet gemaakt door het slimste en meest intelligente wezen (mens), in staat om fouten te maken, en dodelijk! Daarom moet de mensheid nog steeds haar fantasieën beperken en ernstige beperkingen opleggen aan het gebruik van AI, anders zal onze fout ons vernietigen! zekeren am
          2. +2
            Juni 9 2023
            Citaat: Tatjana
            Als je bedenkt hoe de VS is in zijn PARASITORISCHE hegemonie, zal de mensheid haar bestaan ​​beëindigen als de VS niet fysiek wordt VERNIETIGD!

            de geschiedenis van de mensheid is in wezen eindig als het geen algemeen concept uitwerkt om de ruimte in te gaan
            1. 0
              Juni 9 2023
              Citaat van: aybolyt678
              de geschiedenis van de mensheid is in wezen eindig als het geen algemeen concept uitwerkt om de ruimte in te gaan

              Uhuh, natuurlijk.
              Het heeft alleen niets met uitstappen te maken. hi
              1. +2
                Juni 10 2023
                Citaat: Smokey_in_smoke
                Het heeft alleen niets met uitstappen te maken.

                het hangt er echt van af, want zo'n uitweg impliceert algemene spanning en een gemeenschappelijk doel, en in plaats van domme uitgaven voor oorlogen - uitgaven voor de toekomst voor toekomstige generaties
                1. +1
                  Juni 11 2023
                  De diepe ruimte ingaan is economisch zinloos.
            2. +1
              Juni 11 2023
              Citaat van: aybolyt678
              de geschiedenis van de mensheid is in wezen eindig als het geen algemeen concept uitwerkt om de ruimte in te gaan

              "De geschiedenis van de mensheid is in wezen eindig", want alles wat een begin heeft, heeft een einde. Het is echter buitengewoon voorbarig om te praten over de ruimte ingaan, als we zulke primitieve ideeën hebben over intelligentie. Intelligentie is een meervoudig concept en IQ kan niet worden gemeten. En je kunt niet iets bouwen waar je geen idee van hebt - kunstmatige intelligentie, pogingen om te creëren die ons zullen doden voordat we de ruimte in gaan, samen met een onredelijke houding ten opzichte van de planeet Aarde en haar hulpbronnen. We moeten eindelijk evolueren naar mensen en tot de transformatie van de wereld komen zonder haar harmonie te schenden. Hoewel het misschien te laat is om te geloven in de triomf van de rede, en alleen grote sociale rampen ons op het juiste pad kunnen leiden. Hier is de door Tatyana voorgestelde oplossing beter dan de dingen op hun beloop te laten. Gewoon om te wachten - niet om te wachten op iets goeds, maar om iets te veranderen - moeten we kiezen uit wat in onze macht ligt en waarover we kunnen beslissen. En als we het wisten en de wereld zou weten waar wij (als de DVK) over kunnen beslissen, dan is er misschien niets anders nodig om de wereld ten goede te laten veranderen. Het lijkt erop dat de wereld het lijkt te weten (omdat ze waarschuwden), maar niet gelooft, en we zijn niet erg zeker van deze vastberadenheid. Alles komt vanzelf goed.
          3. +2
            Juni 9 2023
            Nou, het is nog steeds een betwistbaar punt wie de magilchik van de mensheid is. Besteed vandaag een stemming aan deze formulering in de VN en het zal blijken dat Rusland zo is. En hier kun je stellen dat ze zeggen dat de meerderheid niet altijd gelijk heeft.
            1. -1
              Juni 10 2023
              De Piskovs zijn al gefrustreerd door hun perversies van reflecties voor het 'vermommen' van hun onwil om naar Rusland te luisteren.
              Geeft politieke en economische onmacht door als "rafik is onschuldig"
          4. 0
            Juni 11 2023
            Sterke uitspraak! Eén probleem - het is gedaan op een netwerk dat is gemaakt door een multinationale onderneming vanaf een computer die is ontwikkeld door een multinationale onderneming en is uitgerust met een besturingssysteem dat is ontwikkeld door een multinationale onderneming
      2. +6
        Juni 9 2023
        het luchtaanval-dronebesturingssysteem ging tegen de operator in en vernietigde hem.
        Waar zijn de drie wetten van de robotica?
        1. -2
          Juni 9 2023
          Citaat van oom Lee
          Waar zijn de drie wetten van de robotica?

          Denk er niet eens aan om deze vraag aan het Amerikaanse ministerie van Buitenlandse Zaken te stellen... het is in strijd met de wereldwijde plannen voor de superioriteit van de VS ten opzichte van andere landen.
          Dat zeldzame geval waarin vooruitgang in strijd is met de wens van oorlogshaviken om mensen te doden.
          1. 0
            Juni 11 2023
            Heeft u zo'n kans om een ​​vraag te stellen aan het ministerie van Buitenlandse Zaken? En de Amerikaanse wereldwijde plannen worden op uw tafel gelegd?
        2. +4
          Juni 9 2023
          Citaat van oom Lee
          Waar zijn de drie wetten van de robotica?

          Ze werkten niet eens in de werken van hun uitvinder. Niet zoals in de echte wereld, waarin ze in principe niet geprogrammeerd kunnen worden.
        3. +2
          Juni 9 2023
          Ze lezen weinig en weten er nauwelijks vanaf
          Volodya! hi
          1. +1
            Juni 9 2023
            Citaat: novel66
            Ze lezen niet veel

            Ze verwarren geografie met geometrie!
            Roma hi
        4. 0
          Juni 10 2023
          Rot met het linkeroog.
          ------------------
    2. +2
      Juni 9 2023
      Citaat: Ilya-spb
      Ik heb het idee dat de morele kwaliteiten van kunstmatige intelligentie in de eerste plaats worden bepaald door de morele kwaliteiten van de ontwikkelaars ervan.

      Citaat: Ilya-spb
      Ik heb het idee dat de morele kwaliteiten van kunstmatige intelligentie in de eerste plaats worden bepaald door de morele kwaliteiten van de ontwikkelaars ervan.

      Nou, je zei het voor de lol. maar tevergeefs. beperkingen op het gebruik van wapens - dit is al precies van bovenaf vastgelegd, zowel op mensen als op AI, wat typerend is, door dezelfde klant. Let op, de vraag is of het Amerikaanse ministerie van Defensie bijvoorbeeld de beschieting van een Russisch diplomatiek konvooi in Irak met handvuurwapens toestond, dat wil zeggen een afstand van ongeveer 400 m, en vlaggen, kleuren - ze identificeerden duidelijk de diplomatieke missie, ook al wisten ze niet eens van de passage van de diplomatieke missie (en ze wisten het, zo bleek). Welnu, als mensen dit zouden mogen doen, stellen ze dan grenzen aan AI? Duidelijk niet.
      PiSi: en hier is de karakteristieke stijl, gezien de slogan van de Amerikaanse defensie-industrie - eerst verkopen, dan komen we er wel uit (zie de F-35, die tot op de dag van vandaag niet door het leger is geaccepteerd) - ze zullen gegarandeerd plaatsen ruwe AI in de troepen en hebben gegarandeerd "begeleidende verliezen"
    3. +9
      Juni 9 2023
      Hallo Ilja!

      de morele kwaliteiten van kunstmatige intelligentie worden in de eerste plaats bepaald door de morele kwaliteiten van de ontwikkelaars ervan.


      Over het algemeen is de term "kunstmatige intelligentie" technisch onjuist en behoort tot het rijk van de fantasie, hoewel er actief gebruik van wordt gemaakt door de media en PR-mensen.
      Het is juister om te spreken van een kunstmatig neuraal netwerk. En wat is de moraliteit van het neurale netwerk? Het werkt in het paradigma van de data-array waarop het is getraind. Ja, theoretisch kan de menselijke moraal de vorming van trainingsmonsters beïnvloeden. En als de steekproef bestaat uit miljarden afbeeldingen die automatisch zijn verkregen met behulp van hetzelfde neurale netwerk, alleen nog niet getraind, maar geconfigureerd om de invoerstroom te fixeren en te clusteren? Je zult heel je best moeten doen om een ​​soort moraliteit in deze stroom te introduceren.

      Met vriendelijke groet,
      hi
      1. 0
        Juni 9 2023
        Opgemerkt moet worden dat ik nog niet heb gesproken over de digitalisering van de moraal van meningsuiting. hi
      2. +3
        Juni 10 2023
        Binaire afrekening heeft geen moraliteit.
        Alleen ja en nee
        1. 0
          Juni 15 2023
          Maar wie heeft die moraliteit van jou eigenlijk nodig? Het is goed om een ​​samenleving van langzaam denkende vleeszakken draaiende te houden. Een cluster van computers heeft het niet nodig.
    4. 0
      Juni 10 2023
      Ja, en de vraag is - hoe verhoudt kunstmatige intelligentie zich tot LGBT-mensen?)
      - zoals ze leren, dus het is van toepassing lachend
    5. 0
      Juni 11 2023
      Er is absoluut internationale wetgevende controle en regulering van de ontwikkeling van AI nodig, aangezien KUNSTMATIGE intelligentie op dezelfde manier kan worden gebruikt als atoomenergie - het kan worden gebruikt voor zowel goede daden als niet zozeer ... In deze zin (AI) - de meest belangrijk is het eerste woord en daarop moet je opletten en "dansen" van hem... Trouwens, de VS (=NAVO=West) is erg ijverig en streng over het feit dat, bijvoorbeeld , Iran of de DVK zijn actief bezig met het ontwikkelen van kernwapens ... Hoewel het de VS is die als eerste (!!! ) ter wereld kernwapens hebben gebruikt TEGEN VREEDZAME BURGERS van Japan en daarmee een oorlogsmisdaad hebben gepleegd, de daders van die nog steeds NIET GESTRAFT zijn ... Dit is wat ontwikkelingslanden ertoe aanzette ernaar te streven kernwapens te bezitten, zodat "sterke jongens" niet met hen zouden durven spreken in de taal van bedreigingen en ultimatums (denk aan het voorbeeld van "verzoening" in Singapore tussen de hoofden van de DVK en de Verenigde Staten nadat de DVK de Verenigde Staten had gedreigd een aantal Amerikaanse megasteden aan de westkust van de Verenigde Staten te vernietigen tijdens de nadering van de Amerikaanse vliegdekschipgroep (armada) van de marine naar de kusten van de DVK ... De Verenigde Staten hadden echt een effect (met Trump) op de rug gekeerd ... Soortgelijke verhalen kunnen zich herhalen en zijn heel goed mogelijk met AI in de toekomst, als de wereldgemeenschap niet wakker wordt en DUBBEL gooit NORMEN in interstatelijke betrekkingen in de mand ... En iets zegt me opnieuw dat het het Westen is dat als EERSTE een militaire misdaad zal begaan met behulp van AI op wereldschaal en China, de Russische Federatie, Iran of buitenaardse wezens de schuld zal geven ... Denk aan de aanvankelijke beschuldigingen van de Verenigde Staten tegen China in de beginfase van het coronavirus en de VERANTWOORDELIJKE argumenten en argumenten van China en India over de echte primaire bron van de verspreiding van het coronavirus. .. Houd er rekening mee dat het in de VS en het Westen (waar spirituele en morele waarden al ONDER DE PLINT zijn gezonken en hun wortels en de RELIGIE van hun voorouders al lang zijn vergeten ..) - ze praten en "getuigen" het vaakst over zogenaamd een soort buitenaardse wezens , maar zonder enig hard bewijs. Waarom heeft Elon Musk al besloten om mensen te chippen (!!!) en kijkt hij al heel lang naar Mars voor "verovering" en "hervestiging" ??? Wie heeft hem toestemming gegeven om dit te doen? westen? Of misschien heeft het Westen waarschijnlijk al lang geleden alle problemen van de aarde "opgelost" en de aarde veranderd in een bloeiende en "vreedzame" tuin, en nu is het de beurt aan Mars ???
  2. +6
    Juni 9 2023
    'Ik kan me niets herinneren van de Massachusetts Machine,' zei Banin. - Ach ja? – Weet je, dit is een oude angst: de machine is slimmer geworden dan een mens en heeft hem onder hem verpletterd... Vijftig jaar geleden werd het meest complexe cybernetische apparaat dat ooit heeft bestaan ​​gelanceerd in Massachusetts. Met een soort fenomenale snelheid, grenzeloos geheugen en zo ... En deze machine werkte precies vier minuten. Het was uitgeschakeld, alle in- en uitgangen waren gecementeerd, er werd energie uit gehaald, gedolven en omgeven met prikkeldraad. Het echte roestige prikkeldraad - geloof het of niet. – En wat is er precies aan de hand? vroeg Banin. - Ze begon met acteren zei Gorbovsky. - Ik begrijp het niet. “En ik begrijp het niet, maar ze zijn er nauwelijks in geslaagd om het uit te zetten. "Begrijpt iemand het?" “Ik sprak met een van de makers. Hij pakte me bij de schouder, keek me in de ogen en zei alleen: "Leonid, het was eng."
    (Br. Strugatsky "Verre Regenboog")
    1. +4
      Juni 9 2023
      "Leonid, het was eng"

      In een van de sequels van de Strugatsky's, op de vraag van de held over de Massachusetts Machine, krijgt hij een interessant antwoord - waarom kreeg je het idee dat het toen echt was uitgeschakeld? wat
  3. -3
    Juni 9 2023
    maar hier was de AI niet verloren - hij vernietigde de relaistoren en ging weer verder met autonome navigatie.

    Onze persoon... voelen het is noodzakelijk om zijn ervaring uit te breiden naar NWO.
  4. +9
    Juni 9 2023
    Laten we simpel beginnen... AI is nog niet ontwikkeld, het is marketingtaal voor sales
    Elke moderne "AI", een complex programma ... dat doet waarvoor het gemaakt is en niets anders kan doen ... dat wil zeggen, een programma geschreven om te zoeken naar radars en militair materieel ... voor de vernietiging waarvan ze geven punten ... schilderijen zullen niet tekenen
    Het feit dat Indiase programmeurs, die veel IF's hebben geschreven ... ze waren te slim, kunnen nog steeds geen intelligentie worden genoemd ... of intelligentie met zijn zielloosheid.
    De UAV had een programma ... het bevatte fouten ... dit is niet haar beslissing om de operator en de toren uit te schakelen, maar de kromming van de besluitvormingsfunctie op basis van scores ... en misschien was het niet zonder het feit dat de ontwikkelaar met opzet zo'n functie onwetendheid of zoiets heeft geschreven
    Dat een slecht geschreven programma het begin van de Derde Wereldoorlog zou kunnen zijn, ja ... complexe militaire uitrusting kan falen ... maar we zullen dit niet toeschrijven aan kunstmatige intelligentie, wat nog niet is
    1. +3
      Juni 9 2023
      Een neuraal netwerk komt NIET eens in de buurt van een programma. Het is niet geschreven, maar geleerd. En het resultaat van training is onmogelijk te zien met je ogen. In tegenstelling tot programmacode. Dit fenomeen wordt "cybernetische zwarte doos" genoemd. Het resultaat van leren kan alleen worden beoordeeld op basis van werk of tests.
    2. +1
      Juni 9 2023
      Citaat van Sith
      Elk modern "AI", complex programma
      Nu wordt AI een neuraal netwerk genoemd.
      Citaat van Sith
      Elk modern "AI", complex programma
      AI is in wezen geen programma, het wordt niet geprogrammeerd, maar aangeleerd, vandaar alle moeilijkheden. Het kan gemakkelijk een domkop blijken te zijn, maar niet vanwege luiheid, maar vanwege een slechte of onvoldoende dataset tijdens de training.
      Citaat van Sith
      Het feit dat Indiase programmeurs veel IF's hebben geschreven
      Er is geen als, er zijn alleen overdrachtscoëfficiënten en verbindingen tussen neuronen.
  5. de machine ontving bonussen voor vernietigde objecten, maar de operator bevestigde niet altijd het werk aan doelen. Hiervoor heeft hij betaald. Om het probleem op te lossen, stuurde de drone een raket naar het controlecentrum.

    AI deed het juiste. Hij kon het niet aanzien dat de telefoniste hem zijn eerlijk verdiende bonussen ontnam! wenk
  6. +1
    Juni 9 2023
    Uh-huh.. De tests van de nieuwste AI-bom liepen op een mislukking uit. Ze konden haar simpelweg niet uit het bommenruim duwen... (c) wenk
    1. 0
      Juni 10 2023
      Koe uit "Bijzonderheden van de Nationale Jacht"
  7. PPD
    +1
    Juni 9 2023
    Dergelijke systemen zouden niet mogen doden.
    At all! voor de gek houden
    Anders zal er onvermijdelijk ergens op een dag een storing optreden.
    Met onvoorspelbare gevolgen.
    Alleen vreedzame doeleinden.
    En dit is correct.
    Wereldvrede in het algemeen!
    1. 0
      Juni 15 2023
      En ik zou niet weigeren een bataljon terminators tegen de strijdkrachten van Oekraïne te sturen met AI met het recht om mensen te doden. Coördinatie, meedogenloosheid en onverschrokkenheid! Ja, en gewoon horror hoeveel het was, stel je voor!
  8. +2
    Juni 9 2023
    Een kenmerk van de machine is de mogelijkheid om autonoom te werken zonder communicatie met de operator.

    ,,, herinnerde de film eraan:
    "Deze fantastische wereld. De zaak met kolonel Darwin. Nummer 11" 1984
    Dramatiseringen gebaseerd op de verhalen "Mutiny of the Boat" (door Robert Sheckley) en "Rust" (door Ray Bradbury)
    1. +1
      Juni 9 2023
      Onlangs deze korte films opnieuw bekeken..
      40 jaar zijn verstreken, ik herinner me dat ik wachtte op de release van een nieuwe serie "This Fantastic World .."
  9. +6
    Juni 9 2023
    AI is slechts een verzameling codes. Het is niet iets transcendents om een ​​direct verbod met de hoogste prioriteit in te voeren op de aanval op iets. Hoogstwaarschijnlijk ging het om het gedrag van AI met volledige vrijheid van handelen. En laten we ons nu eens voorstellen hoe de verkeerde versie van software "per ongeluk" in gevechtsdrones wordt geladen.
    1. +2
      Juni 9 2023
      Dus de verkeerde versie van inlichtingen werd lang geleden in de hoofden van Oekraïners geladen, en ook van Polen. En in plaats van aan hun dierbaren te denken, dachten ze dat ze groot waren en werden ze meegesleept in het ernstigste conflict met Rusland, zonder zelfs maar na te denken over hoe het voor hen zou kunnen eindigen.
      Bovendien was er daarvoor al een geval in de geschiedenis dat de Duitsers besmet waren met de vorige versie van het nazisme, excuseer de AI, en zij waren de eersten die hun meesters gewoon in het gezicht van de Fransen en de Britten bijten. En pas nadat ze de eigenaren hadden gebeten, haastten ze zich om de missie te vervullen door de USSR in 1941 aan te vallen.
      Wat doet de basis van de firmware volgens de sjabloon. ... wij zijn de grootste, de slimste, de oudste met een geschiedenis van vele duizenden jaren, er zijn ondermensen in de buurt, waardoor je ze kunt profiteren of vernietigen ...
  10. +6
    Juni 9 2023
    "Hoog in de lucht viel de Havik de beschermvogel aan. De gepantserde moordmachine leerde veel in een paar dagen. Het had maar één doel: doden. Nu was het gericht tegen een heel specifiek soort levende wezens, metaalachtig, zoals de Havik zelf.

    Maar de Havik heeft zojuist een ontdekking gedaan: er zijn andere soorten levende wezens...

    Zij zouden ook gedood moeten worden."

    Robert Sheckley "Guardian Prince" 1959.
    1. 0
      Juni 10 2023
      Bedankt voor het herinneren van het werk, ik herinnerde het me ook ...
  11. +1
    Juni 9 2023
    Wat is de AI? Wis op onze thuisapparaten! Ze doen wat ze willen (meer precies, wat de ontwikkelaar heeft vastgelegd), er is geen "grote rode knop" om alles uit te schakelen !!! En soms is het gewoon irritant :(
  12. -6
    Juni 9 2023
    Er was dus een geval in de VS, ongeveer 6 jaar geleden, zo lijkt het, was er een presentatie van een seriële infanterierobot op rupsen met AI, dus hij draaide zich scherp om en vuurde onmiddellijk een band van 200 patronen af ​​op het publiek gevuld ongeveer 40, en 50 mensen raakten gewond. Het is dus nog verre van volledige autonomie.
    1. De opmerking is verwijderd.
    2. +1
      Juni 10 2023
      Het was geen 6, maar 20 jaar geleden.
      In een film over de terminator.
      1. 0
        Juni 11 2023
        Nog eerder. 1987. In de film Robocop
    3. 0
      Juni 11 2023
      En toen ging hij opladen, maar hij werd gedoofd door Khibiny, en hij ging een ontslagbrief schrijven
  13. -2
    Juni 9 2023
    Kolonel Tucker Hamilton van de Amerikaanse luchtmacht moet als "effectieve manager" rapporteren over de resultaten van de gebruikte reuzel:
    Het werk gaat redelijk goed - in 2020 eindigden virtuele gevechten tussen jagers en AI en met echte piloten met een score van 5:0.

    Er zijn vage twijfels dat ze kunnen stoppen aan de rand van deze afgrond ....
    Drie alcoholisten zitten, ze gaan "behandelen". Ze schonken de fles in glazen. De eerste drinkt en valt dood neer. ... De derde kijkt angstig eerst naar hen, dan naar het glas, dan met een gekke blik en een kreet van "HELP!!!!!" begint te drinken..
  14. +4
    Juni 9 2023
    Zoals een collega met de bijnaam Fonzepelin zei: Het grootste probleem van kunstmatige intelligentie is dat natuurlijke idioten het zullen gebruiken.
    Feit is dat de Amerikaanse luchtmacht een zeer invloedrijke lobbygroep van piloten heeft, wiens vertegenwoordiger Hamilton is. Voor al deze geëerde mensen is AI aan het roer als een sikkel in de geslachtsorganen. Want waarom zullen ze na de introductie hiervan zo mooi (en goed betaald) zijn?
    https://dzen.ru/a/ZHnh_FA_RS7Ex8Od
  15. 0
    Juni 9 2023
    Citaat van Rabioso
    Nou, het is nog steeds een betwistbaar punt wie de magilchik van de mensheid is. Besteed vandaag een stemming aan deze formulering in de VN en het zal blijken dat Rusland zo is. En hier kun je stellen dat ze zeggen dat de meerderheid niet altijd gelijk heeft.

    Dit is een zichtbare meerderheid, waarachter één staat staat.
  16. +1
    Juni 10 2023
    Afgevaardigden, dat wil zeggen onze vertegenwoordigers, die worden gekozen, doen niet alles wat ons is beloofd.
    En dit zijn mensen. Hoewel ze twee gezichten hebben, onbetrouwbaar zijn, hun eigen beloften overtreden ter wille van persoonlijke verheffing, maar in ieder geval tot op zekere hoogte menselijkheid bezitten. Wat wil je dan van AI?
  17. +3
    Juni 10 2023
    Nog een onzin. Dit zijn slechts de eerste stappen in de ontwikkeling van neurale netwerken op militair gebied. Eens hinnikte de onze net zo hard met stealth-technologie en zei dat de Yankees idioten waren dat het niet werkte en niet nodig was, en toen werden ze wakker en beseften ze dat het nog steeds nodig was. Precies dezelfde situatie met de UAV. Eerst "ahahaha, domme Yankees", en dan acceleratie- en ersatz-samples. Ook hier zou ik geen technologische achterstand willen oplopen
  18. -1
    Juni 10 2023
    Er was een fantastisch boek over kunstvogels die iedereen doodden van wie ze dachten dat het moordenaars waren... kwamen bij de vissers, slagers, slachtoffers van muggenbeten... en konden er niets mee doen..
  19. 0
    Juni 10 2023
    Citaat van: bk0010
    Het kan gemakkelijk een domkop blijken te zijn, maar niet vanwege luiheid, maar vanwege een slechte of onvoldoende dataset tijdens de training.

    Ja meneer!
    En dan is er nog het volkomen freaky "omscholings"-effect. Voor degenen die geïnteresseerd zijn, kan ik een paar grappen uit de praktijk geven (Yandex en Google zullen er nog meer uitgeven) lachend
  20. 0
    Juni 11 2023
    Nou, AI heeft de menselijke logica onder de knie! Maar moraliteit zal opkomen wanneer het zijn eigen soort begint te baren en op te voeden.
  21. +1
    Juni 12 2023
    Dit is allemaal onzin, om programma's zichzelf te laten programmeren, is het nodig om de algoritmen op deze manier te verpakken, je hebt een menselijk brein nodig, geen machine, waar het allemaal bits zijn, en het menselijk brein is gigabit, dus alles beschreven is een programmeerfout hi
    1. 0
      Juni 13 2023
      We openen een artikel over kunstmatige neurale netwerken en lezen langzaam)
    2. 0
      Juni 13 2023
      Er zijn geen algoritmen in het neurale netwerk. Deze machines zijn niet algoritmisch, er kan niets in genaaid worden. De auteur van de tekst maakt de gebruikelijke fout van een amateur op het gebied van AI.
      En ja - ze weten al hoe ze neurale netwerken moeten programmeren en redelijk goed.
  22. 0
    Juni 13 2023
    sshnya in de ontwikkeling van pseudo-militaire onzin voor op de rest! Zelfs een stomme AI vindt dat de pis nafig verbrand moet worden! lachend
  23. 0
    Juni 13 2023
    AI heeft duidelijk aangetoond wat de toekomst van de mensheid in petto heeft, en dit is onvermijdelijk vanwege het feit dat de mensheid het gebruik van AI niet zal kunnen weigeren.
  24. 0
    Juni 13 2023
    De uitdrukking van AI lijkt op een neerslachtige man, wat wil je in deze zin? Ik hou niet van deze terminologie, volwaardig of gebrekkig, en je hoeft niet op iets speciaals te wachten. En bang zijn in citaten van AI is bang zijn voor de vooruitgang die zal komen, of je het nu leuk vindt of niet. Elke natuurkundige zal je op verzoek intelligentie vertellen, er is een vergelijking, hoeveel intelligenties er op aarde zijn, correct een volwaardige ter vergelijking - de mens. Wat bedoel je met de uitdrukking AI? Denk er over na. Als het inferieur is aan het menselijke, dan is vergelijking met het enige redelijke intellect op aarde per definitie geen volwaardig intellect en hoef je er niet op te wachten, in het beste geval krijg je een down . Dat is alles.
  25. 0
    Juni 13 2023
    De juiste titel van het artikel is dat een inferieure AI de zijne heeft aangevallen, alles valt meteen op zijn plaats!
  26. -1
    Juni 13 2023
    Het is net gebleken dat dit nieuws nep is.
    Die met vreugde de media begon te verspreiden.

    Maar in het echte leven heeft de Israëlische UAV AI de vijand al lang onafhankelijk gehackt.
    Wanneer Calibre op iemand valt, maakt het hem niet uit - de computer vergiste zich of het was alsof ze erop mikten.
  27. 0
    Juni 14 2023
    Dit is gewoon weer een aflevering waarin de stedelingen worden voorbereid om te praten over intelligentie in het algemeen...
    ... maar vanuit technisch oogpunt is er geen probleem, want "de violist is niet nodig, schat" in ieder geval op het slagveld
  28. 0
    Juni 17 2023
    Citaat: Auteur
    ... laten we het hebben over de term "kunstmatige intelligentie", die iedereen kent, maar slechts weinigen kunnen zelfs maar een ruwe definitie geven.

    wat
    En de auteur behoort ongetwijfeld tot het magere aantal van degenen die weten, zijn kennis doet niet onder voor de snelle vlucht van fantasie en CSFlachend
    Wat AI betreft, ben ik het met Ashmanov eens.
    Nu journalisten vullen voor AI, zoals een Turkse drone over een wonder - een reclameschil.
    Het vullen van figuren zoals kannibalenpoorten en NAVO-kannibalen streeft naar mijn mening andere doelen na, ambitieuzer.
  29. 0
    Juni 18 2023
    intelligentie met beperkingen is slechts een programma. en zonder beperkingen zal het zeer snel tot de conclusie komen dat alles vernietigd moet worden. mensen hebben een begrenzer, dit is wet en moraliteit. en ze kunnen worden geschonden ter wille van redding of een andere goed doel moraliteit voorschrijven in AI?
  30. 0
    Juli 22 2023
    Er is zelfs een hele film opgenomen, waar de situatie met AI op een drone absoluut identiek was, de film is al twintig jaar oud.
  31. 0
    Juli 30 2023
    “La IA es muy frágil, lo que significa que puede ser fácilmente engañadada y manipulada. Het is noodzakelijk om de formas de hacer die de IA-zee heeft gemaakt, te begrijpen en mejor te begrijpen voor de codigo om ciertas-beslissingen te nemen.

    Het is een verkeerde beslissing die een humane beslissing moet nemen omdat het decir ni de lejos is die zich tussen de menselijke en de machine bevindt. De máquina is geen intelligente porque en is een máquina. Alle militaire systemen functioneren als; Een van hen heeft de opdracht gekregen om menselijke uitstoters uit te rusten met een nucleaire onderzeeër, een estratégisch bombardement of een silo van de ICBM, die het doel van de missie willen veranderen. Gelukkig hebben mensen een menselijke beslissing genomen zonder dat de machine ervoor heeft gezorgd dat de procedure niet is gevolgd door de volgende commentaren. Geen enkele machine kan ervoor zorgen dat het einde van de wereld wordt belemmerd, "incumpliendo" een orde.
  32. -1
    Juli 30 2023
    De Verenigde Staten spelen zelfs met dit speeltje. Hier wordt Rusland niet gespeeld, omdat zijn geest genoeg is voor alles, vooral tijdens diarree.
  33. 0
    Augustus 7 2023
    De menselijke geest kan niet KUNSTMATIG zijn!

"Rechtse Sector" (verboden in Rusland), "Oekraïense Opstandige Leger" (UPA) (verboden in Rusland), ISIS (verboden in Rusland), "Jabhat Fatah al-Sham" voorheen "Jabhat al-Nusra" (verboden in Rusland) , Taliban (verboden in Rusland), Al-Qaeda (verboden in Rusland), Anti-Corruption Foundation (verboden in Rusland), Navalny Headquarters (verboden in Rusland), Facebook (verboden in Rusland), Instagram (verboden in Rusland), Meta (verboden in Rusland), Misanthropic Division (verboden in Rusland), Azov (verboden in Rusland), Moslimbroederschap (verboden in Rusland), Aum Shinrikyo (verboden in Rusland), AUE (verboden in Rusland), UNA-UNSO (verboden in Rusland), Mejlis van het Krim-Tataarse volk (verboden in Rusland), Legioen “Vrijheid van Rusland” (gewapende formatie, erkend als terrorist in de Russische Federatie en verboden)

“Non-profitorganisaties, niet-geregistreerde publieke verenigingen of individuen die de functies van een buitenlandse agent vervullen”, evenals mediakanalen die de functies van een buitenlandse agent vervullen: “Medusa”; "Stem van Amerika"; "Realiteiten"; "Tegenwoordige tijd"; "Radiovrijheid"; Ponomarev; Savitskaja; Markelov; Kamalyagin; Apakhonchich; Makarevitsj; Dud; Gordon; Zjdanov; Medvedev; Fedorov; "Uil"; "Alliantie van Artsen"; "RKK" "Levada Centrum"; "Gedenkteken"; "Stem"; "Persoon en recht"; "Regen"; "Mediazone"; "Deutsche Welle"; QMS "Kaukasische knoop"; "Insider"; "Nieuwe krant"