Σάλος με ψεύτικες φωτογραφίες στο Facebook - Πώς τις αναγνωρίζετε

Η αλματώδης πρόοδος της τεχνητής νοημοσύνης τους τελευταίους μήνες έχει προκαλέσει ένα νέο φαινόμενο: τη μαζική κοινοποίηση στα κοινωνικά δίκτυα τεχνητά παραγόμενων εικόνων.

Ορισμένες από αυτές τις εικόνες, οι οποίες είναι εξαιρετικά ρεαλιστικές και προέρχονται από την επικαιρότητα και μερικές φορές παρουσιάζονται ως αυθεντικές, έχουν προκαλέσει σύγχυση. Παρόλο που δεν υπάρχει προς το παρόν κανένα εργαλείο ικανό να εντοπίσει με βεβαιότητα μια τεχνητά παραγόμενη εικόνα, η αναζήτηση του περιεχομένου του στιγμιότυπου και ο εντοπισμός οπτικών ασυμβατοτήτων μπορεί να συμβάλει στον εντοπισμό μιας εικόνας ΤΝ, δήλωσαν ειδικοί στον τομέα αυτό στο AFP.

Το πρόβλημα πάντως είναι τεράστιο και μια ομάδα ερευνητών από το Παρατηρητήριο Διαδικτύου του Στάνφορντ και το Κέντρο Ασφάλειας και Αναδυόμενων Τεχνολογιών του Πανεπιστημίου Georgetown των ΗΠΑ ξεκίνησαν έρευνα για περισσότερες από 100 σελίδες του Facebook που είχαν τεράστια ποσότητα περιεχομένου που δημιουργήθηκε από τεχνητή νοημοσύνη.

Στο νέο τους έγγραφο, το οποίο δεν έχει ακόμη αξιολογηθεί από ομότιμους και φέρει τον τίτλο «How Spammers and Scammers Leverage AI-Generated Images on Facebook for Audience Growth», υποστηρίζουν ότι το πρόβλημα που παρουσιάζεται  είναι αποτέλεσμα των ανθρώπων που επιδιώκουν να αυξήσουν τους followers τους στα κοινωνικά δίκτυα.

Οι κίνδυνοι με τη χρήση της τεχνητής νοημοσύνης

«Μεγάλο μέρος της έρευνας και της συζήτησης σχετικά με τους κινδύνους από τις γεννήτριες εικόνων τεχνητής νοημοσύνης (AI), όπως το DALL-E και το Midjourney, έχει επικεντρωθεί στο κατά πόσον θα μπορούσαν να χρησιμοποιηθούν για την εισαγωγή ψευδών πληροφοριών στον πολιτικό διάλογο», γράφουν οι συγγραφείς της έρευνας. «Δείχνουμε ότι οι spammers και οι απατεώνες - με προφανή κίνητρα το κέρδος ή την επιρροή, όχι την ιδεολογία - χρησιμοποιούν ήδη εικόνες που δημιουργούνται από τεχνητή νοημοσύνη για να αποκτήσουν σημαντική απήχηση στο Facebook».

Τρόποι προστασίας

Ο Independent ρώτησε τον Chris Cox, τον επικεφαλής προϊόντος της Meta σχετικά με την ανάπτυξη τέτοιων ψεύτικων εικόνων κατά τη διάρκεια μιας εκδήλωσης τεχνητής νοημοσύνης για το ζήτημα που έχει προκύψει. Όπως ανέφερε «η επισήμανση είναι απολύτως κρίσιμη». Επεσήμανε για παράδειγμα τους νέους κανόνες που απαιτούν κάθε δημοσίευση και που περιλαμβάνουν ένα μήνυμα που να υποδεικνύει ότι δημιουργήθηκε από τεχνητή νοημοσύνη, είτε αυτό έγινε με τη χρήση ενός από τα συστήματα τεχνητής νοημοσύνης της ίδιας της Meta είτε με τη χρήση συστημάτων από άλλες εταιρείες, όπως η Midjourney. Και προσθέτει: «Το κλειδί εδώ είναι η εμπειρία του χρήστη και η στήριξη σε απλά εργαλεία που «καταλαβαίνουν» τη τεχνητή νοημοσύνη αμέσως».