Wie funktioniert das Textgenerierungsmodell von AI Salesforce?

Vor weniger als einem Monat veröffentlichte das Team von AI Salesforce ein neues Textgenerierungsmodell namens CTRL.

Der Algorithmus funktioniert so, dass Sie ihm einen Internetlink geben und er versucht, einen Artikel zu erfinden, der dort sein könnte. Dieses Modell ist wirklich riesig – es basiert auf 1,6 Milliarden Parametern und wurde mit dreimal so vielen Daten trainiert wie GPT-2 (was 8 Millionen der besten Seiten von Reddit entspricht).
Wie das funktioniert, zeige ich Ihnen an zwei Links, die ich mir ausgedacht habe:

https://techcrunch.com/…/…/best-mobile-game-with-advanced-ai
Das beste mobile Spiel mit fortschrittlicher KI
In den letzten Jahren haben wir viele Spiele gesehen, die versuchen, etwas Neues und Anderes zu machen. Ein solches Beispiel ist „Minecraft“, das schon eine ganze Weile existiert, aber kürzlich eine interessante Wendung durch den Einsatz von künstlicher Intelligenz (KI) hinzugefügt hat, um den Spielern zu helfen, Dinge wie Gebäude, Waffen und andere Gegenstände zu bauen.
Es handelt sich jedoch nicht um irgendeine alte KI. Man nennt es KI. Es wird nicht nur in Minecraft verwendet – obwohl die meisten Leute dort zuerst suchen werden, sondern auch in vielen anderen Spielen, einschließlich Angry Birds, Star Wars und Clash Royale.
Was diesen speziellen Typ von KI jedoch besonders macht, ist seine Fähigkeit, aus Erfahrungen zu lernen.
Das Team von DeepMind Labs hat ein System entwickelt, das in der Lage ist, Tausende von Minecraft-Ebenen zu spielen, ohne sich zu langweilen. Dies geschieht durch das Lernen der Spielmechanik im Laufe der Zeit sowie durch die Analyse von Daten, die während des Spiels gesammelt werden.
***Ende***
Und noch ein Link, den ich mir wieder ausgedacht habe, sowie den Artikel, den der Algorithmus zusammengestellt hat:

https://www.cnn.com/…/beautiful-naked-girle-found-on-church…
Eine nackte Frau auf dem Kirchendach
MUSS MAN SEHEN
(CNN) Eine nackte Frau wurde laut italienischen Medien am Sonntagmorgen von einem Priester und seiner Frau in der Kuppel der Petersbasilika im Vatikan entdeckt. Die Frau, von der angenommen wird, dass sie etwa 30 Jahre alt ist, wurde bereits früher an diesem Tag gesehen, als sie auf der Spitze der Kirchturm saß, mit den Händen über den Knien gefaltet, sagte Monsignore Pietro Parolin. Er sagte CNN, dass er nicht wisse, ob sie irgendeine Identifikation haben wird oder wie lange es dauern wird, bis die Polizeibehörden sie identifizieren.

Lesen Sie mehr

„Das Einzige, was wir jetzt sagen können, ist, dass diese Person wahrscheinlich gerade von woanders gekommen ist,“ sagte Parolin. Der Körper der Frau verschwand vor Tagesanbruch am Sonntag, aber die Polizei sucht weiterhin nach ihr, fügte er hinzu. Die Polizei untersucht, ob auch andere Personen in den Vorfall verwickelt sind. Dies geschah, als Papst Franziskus eine Messe in der Basilika feierte – einem der heiligsten Orte des Katholizismus – nach seiner Rückkehr von einer internationalen Reise, bei der er mehrere Länder, darunter Südkorea, Israel und Jordanien, besucht hatte.
***Ende***

Es ist nicht perfekt, aber dennoch eine der besten AI Fake News, die ich gesehen habe. Es hält den Kontext über den gesamten Artikel und generiert Artikel mit großer Sensibilität für den Server, auf dem es angeblich sein soll. Der Algorithmus kann auch Fragen gestellt werden. Er antwortete mir gut auf die Frage, wer der erste tschechische Präsident war – Václav Havel. Auf die Frage, was der Sinn des Lebens sei, antwortete er, dass es das Leben sei. Als ich fragte, welches Metall teurer als Gold sei, antwortete er Nickel (hier hat er sich jedoch offensichtlich geirrt – ich habe gesehen, dass es heute für etwa 200 CZK pro Kilo gekauft wird :))

Was halten Sie von dem neuen Modell CTRL?

Quellen:
Github: https://github.com/salesforce/ctrl
Collab zum Ausprobieren: https://colab.research.google.com/…/1hVveBQShDru1Mjnhe4C21u…
Maxíkův článek: https://minimaxir.com/2019/09/ctrl-fake-news/