Deepfakes: Εφαρμογή-εφιάλτης πιο πολύ κι από το FaceApp

Κατά μια παράξενη σύμπτωση, τις προηγούμενες ημέρες δύο ψηφιακές εφαρμογές, δύο προγράμματα ευρείας χρήσης για την παράλλαξη εικόνων απασχόλησαν την κοινή γνώμη διεθνώς. Η συζήτηση, τόσο στην ελαφρά όσο και στην πιο συνωμοσιολογική της διάσταση, έφτασε στο σημείο του σάλου γύρω από το τι κάνουν και πώς το κάνουν το FaceApp και το AI Portraits.

Το ανάρπαστο FaceApp γερνά τεχνητά το πρόσωπο στην εκάστοτε φωτογραφία, το δεύτερο δημιουργεί μια εκδοχή του πορτρέτου σαν να ήταν ζωγραφισμένο και μάλιστα με συγκεκριμένη τεχνοτροπία, της αρεσκείας του χρήστη. Το AI Portraits φαντάζει εντελώς άδολο, καθώς χρησιμοποιεί μια ποικιλία φίλτρων, τα οποία παρέχει η Τεχνητή Νοημοσύνη προκειμένου να επιτευχθεί το εφέ της ζωγραφικής όπως την εννοούσαν οι καλλιτέχνες σε διάφορες περιόδους στην ιστορία της τέχνης. Κατ’ αυτόν τον τρόπο, μια οποιαδήποτε selfie μπορεί να καταλήξει παρωδία αριστουργήματος του Μιχαήλ Αγγελου, του Ραφαήλ ή του Βαν Γκογκ κ.ά.

Σε ό,τι αφορά όμως την άλλη εφαρμογή για smartphone, το FaceApp, τα πράγματα θεωρήθηκαν πιο περίπλοκα. Διατυπώθηκαν ανησυχίες ότι η εφαρμογή δεν επεξεργάζεται μόνο την εικόνα που υποβάλλει ο χρήστης, αλλά και τις υπόλοιπες συναφείς που βρίσκονται αποθηκευμένες στο τηλέφωνό του. Οι δε εμμονικοί με τον «ρωσικό δάκτυλο», λόγω της εθνικότητας του εφευρέτη της εφαρμογής, διέκριναν απόπειρα συγκεκαλυμμένης ρωσικής διείσδυσης. Αμερικανός γερουσιαστής έφτασε να απαιτήσει άμεση παρέμβαση του FBI για τη διαλεύκανση της υπόθεσης FaceApp. Ο Ρώσος δημιουργός του, ο 40χρονος Γιάροσλαφ Γκοντσάροφ έγινε εν μία νυκτί το πιο πολυσυζητημένο και αμφιλεγόμενο πρόσωπο παγκοσμίως στον τομέα της τεχνολογίας. Παρόλο που στην πραγματικότητα το FaceApp υπάρχει από το 2017, καθώς ο Γκοντσάροφ, ως ειδικός στις έξυπνες εφαρμογές, είχε ασχοληθεί εμμονικά με την επεξεργασία εικόνων, με τη βοήθεια της Τεχνητής Νοημοσύνης και της Μηχανικής Εκμάθησης, μεθόδων που, εν ολίγοις, ρομποτοποιούν τους υπολογιστές επιτρέποντάς τους να επαυξάνουν τις «γνώσεις» τους. Αφού είχε εργαστεί στη Microsoft και είχε γίνει εκατομμυριούχος πουλώντας μια εταιρεία λογισμικού, ο Γκοντσάροφ γνώρισε ξανά την επιτυχία θέτοντας σε κυκλοφορία το FaceApp με τη δυνατότητα αυτόματου εξωραϊσμού στα πορτρέτα των χρηστών.

Από τον Αλέξη στα Deepfakes

Κι ενώ οι Ρώσοι developers της εφαρμογής ανασκεύαζαν τις μομφές και διαβεβαίωναν ότι το FaceApp δεν κρυφοκοιτάζει προσωπικά δεδομένα, ο Αλέξης Γεωργούλης, ως νεοεκλεγείς ευρωβουλευτής του ΣΥΡΙΖΑ, διατύπωνε στην Κομισιόν τις δικές του ανησυχίες για τη συγκεκριμένη εφαρμογή: «Προκύπτουν ερωτήματα αναφορικά με την ασφάλεια και την προστασία των χρηστών, ειδικά αν δεν εφαρμόζεται επαρκώς το νομικό πλαίσιο της Ε.Ε. Η εφαρμογή χρησιμοποιεί τεχνολογία αναγνώρισης προσώπου και συλλέγει βιομετρικά στοιχεία, ενώ η έδρα της εταιρείας που την ανέπτυξε και την διαχειρίζεται βρίσκεται εκτός Ε.Ε.». Σε κάθε περίπτωση, ο Γκοντσάροφ και οι 12 συνεργάτες του ουδόλως πτοήθηκαν και εξακολούθησαν να μετρούν τα κέρδη από το FaceApp, τα οποία θα πρέπει ήδη να μετρώνται σε εκατομμύρια δολάρια. Κι όλα αυτά από ένα ψηφιακό εργαλείο που κάνει την τάδε αστέρα του Χόλιγουντ, τον Ντόναλντ Τραμπ και τον Σταμάτη Γαρδέλη να φαίνονται κακογερασμένοι, γεμάτοι ρυτίδες.

Πάντως, τόσο το FaceApp όσο και το AI Portraits έγιναν αμέσως ανάρπαστα, καθώς εκατομμύρια χρήστες smartphone έσπευσαν να τα εγκαταστήσουν στις συσκευές τους ώστε να αρχίσουν τάχιστα να αναρτούν τις «πειραγμένες» εικόνες στα μέσα κοινωνικής δικτύωσης.

Παρά τις ενστάσεις και τις υποψίες οι προαναφερθείσες είναι δύο εφαρμογές που παράγουν στατικές εικόνες και μόνο καταχρηστικά θα μπορούσαν να ενταχθούν στη σκοτεινή και επικίνδυνη επικράτεια των fake news. Αντιθέτως, τα Deepfake βίντεο είναι ο ορισμός των fake news. Και, μάλιστα, στην πιο εφιαλτική και ύπουλη εκδοχή τους, καθώς ο λόγος γίνεται εν προκειμένω για παραποιημένα βίντεο στα οποία εμφανίζονται σημαίνοντα πρόσωπα να λένε πράγματα που ουδέποτε είπαν στ’ αλήθεια. Χαρακτηριστικό παράδειγμα ένα σύντομο βίντεο στο οποίο πρωταγωνιστεί ο Μαρκ Ζάκερμπεργκ.

Δεν είναι μόνο η φωνή, είναι και οι κινήσεις του στόματος, η έκφραση του προσώπου, ολόκληρη η μορφή του Ζάκερμπεργκ που δεν αφήνουν την παραμικρή αμφιβολία ότι ο θεατής παρακολουθεί μια βαρυσήμαντη βιντεοσκοπημένη δήλωση του αυθεντικού ιδρυτή του Facebook. Ο Ζάκερμπεργκ καυχάται ότι ελέγχει τα προσωπικά δεδομένα δισεκατομμυρίων ανθρώπων. «Φανταστείτε για μια στιγμή αυτό που σας λέω: κάποιος να έχει υπό τον απόλυτο έλεγχό του τα κλεμμένα στοιχεία, όλα τα μυστικά, όλη τη ζωή και το μέλλον δισεκατομμυρίων ατόμων», εμφανίζεται να λέει ψυχρά και ανέκφραστα αλλά με τρομακτική έπαρση ο Μαρκ Ζάκερμπεργκ. Κι ύστερα συμπληρώνει ότι «εγώ όλα αυτά τα οφείλω στο Φάντασμα. Το Φάντασμα με δίδαξε ότι όποιος ελέγχει τα δεδομένα, ελέγχει το μέλλον». Οι τελευταίες φράσεις είναι παραληρηματικές, οπότε υποψιάζεται κανείς ότι είτε ο Μαρκ Ζάκερμπεργκ έχει πάθει κρίση παθολογικής μεγαλομανίας είτε κάτι παράξενο συμβαίνει με το συγκεκριμένο βίντεο. Κι όμως, εκτός κι αν ο Ζάκερμπεργκ έχει κλωνοποιηθεί, στη θέση του στο κέντρο του πλάνου δεν θα μπορούσε να είναι κάποιος άλλος που τα λέει όλα αυτά. Είναι σίγουρα αυτός. «Σίγουρα;» Στον κόσμο των Deepfake κανείς δεν μπορεί να είναι απολύτως βέβαιος, να πάρει όρκο ότι αυτό που βλέπει μπροστά του δεν είναι παραποιημένο.

Η Σκάρλετ σε πορνό

Τα Deepfakes είναι το επόμενο, ανώτερο στάδιο των fake news. Πρόκειται για υποπροϊόντα της ψηφιακής τεχνολογίας, η οποία με εφαρμογές Τεχνητής Νοημοσύνης συνδυάζει εκατομμύρια εικόνες ενός δεδομένου προσώπου και το εμφανίζει να κινείται και, κυρίως, να εκφράζει οτιδήποτε θέλει ο χειριστής του υπολογιστή. Στο παράδειγμα με τον Ζάκερμπεργκ, ο Mr. Facebook θα μπορούσε να λέει οτιδήποτε, καθώς τα προγράμματα που καθιστούν εφικτή την αλλοίωση της φωνής και της εικόνας σε απόλυτο συντονισμό είναι σε θέση να αποδώσουν, με τη μέγιστη δυνατή πιστότητα, οτιδήποτε πληκτρολογεί ο χρήστης σε μορφή κειμένου. Το εκάστοτε πρόσωπο, διάσημο ή όχι, γίνεται λοιπόν άθυρμα, παντελώς άβουλο υποχείριο οποιουδήποτε θελήσει να προκαλέσει αναταραχή. Το αμερικανικό Πεντάγωνο έχει θορυβηθεί από το φαινόμενο των Deepfakes και εξετάζει τις δυνατότητες που έχουν το κράτος και η κοινωνία (στις ΗΠΑ, αλλά όχι μόνο εκεί) να αυτοπροστατευτούν. Προφανώς, οι πιο πρόσφορες περιπτώσεις για παραποίηση είναι οι διασημότητες, καθώς η παρουσία τους είναι καταγεγραμμένη επί αναρίθμητες φορές, από κάθε πιθανή οπτική γωνία, σε όλων των ειδών τους φωτισμούς κ.λπ. Με τη σημερινή τεχνολογία ο Μπαράκ Ομπάμα μπορεί να παρουσιάζεται σε στιγμή ακραίας φραστικής παρεκτροπής κατά του Ντόναλντ Τραμπ και ο Κιάνου Ριβς να παίζει στον αυθεντικό «Σημαδεμένο» στη θέση του Αλ Πατσίνο.

Σε κάθε περίπτωση, η επέμβαση στο αρχικό υλικό δεν είναι άμεσα ορατή και μπορεί πολύ εύκολα να παραπλανηθεί οποιοσδήποτε δεν είναι υποψιασμένος ή ψάχνει ως εξ επί τούτου για «λαβράκια». Πολύ σύντομα, αν όχι ήδη, η παραποίηση των βίντεο σε τέτοιον βαθμό ώστε να καταλήγουν Deepfakes θα είναι ανιχνεύσιμη μόνο από τους υπολογιστές εφοδιασμένους με κατάλληλο λογισμικό. Οπότε υπολογιστές θα παράγουν όλο και τελειότερα fake news και άλλοι υπολογιστές θα προσπαθούν να τα αναχαιτίσουν. Οι παράπλευρες απώλειες, όμως, νομοτελειακά θα πολλαπλασιάζονται και θα είναι όλο και πιο βαριές. Ηδη στο Διαδίκτυο κυκλοφορεί ένα βιντεοσκοπημένο απόσπασμα από συνεδρίαση του Ινδικού Κοινοβουλίου. Πρωταγωνιστής είναι ένας μεσήλικας βουλευτής, ο οποίος, κλαίγοντας, προσπαθεί να πείσει τους συναδέλφους του ότι το βίντεο που τον δείχνει να κάνει άγριο σεξ με έναν άγνωστο άντρα είναι προϊόν εσκεμμένης παραποίησης, μιας δόλιας σκευωρίας εις βάρος του, η οποία εκτελέστηκε με τη χρήση των πλέον προηγμένων τεχνολογικών μέσων, ήτοι των Deepfakes. Τώρα γιατί από όλο τον υπόλοιπο κόσμο, κάποιος να έβαλε στόχο τον Ινδό πολιτικό Αρβίντ Λιμπανταβάλι παραμένει μυστήριο.

Απεναντίας, καθόλου μυστηριώδεις -ούτε καν καινούριες- είναι οι απόπειρες να εμφανιστούν διασημότητες να πρωταγωνιστούν σε ταινίες σκληρού πορνό. Απλώς με την τεχνολογία των Deepfakes το αποτέλεσμα είναι πιο πειστικό από ποτέ. Τα ψηφιακά μέσα της Τεχνητής Νοημοσύνης έχουν τη δυνατότητα να κάνουν κανονική μεταμόσχευση προσώπου στο σώμα μιας πορνοστάρ - αρκεί οι αναλογίες και τα βασικά χαρακτηριστικά του κορμιού της να μην απέχουν πολύ από τις καμπύλες της Χολιγουντιανής σταρ. Ολες οι κινήσεις, οι εκφράσεις του προσώπου, το βλεφάρισμα, η φωνή κ.λπ. μπορούν να τροποποιηθούν με τη βοήθεια ειδικών ψηφιακών 3D εργαλείων. Τα χείλη του πλαστού προσώπου πάνω στο ξένο σώμα κάνουν ακριβώς τις κινήσεις που αντιστοιχούν στις λέξεις που ορίζει ο χρήστης, κάτι που θα ήταν πολύ χρήσιμο και αβλαβές στη μεταγλώττιση ταινιών. Κάποιοι όμως προτιμούν να αναπτύσσουν τη διαθέσιμη τεχνολογία για να γδύνουν εικονικά ανύποπτα θύματα. Συγκεκριμένα, η εφαρμογή DeepNude η οποία κυκλοφόρησε για λίγο καιρό και κατόπιν αποσύρθηκε, έδινε τη δυνατότητα σε όποιον την ενεργοποιούσε να παραστήσει γυμνό το σώμα μιας κανονικά ντυμένης γυναίκας.

Σημερινό πρόβλημα

Το φαινόμενο των Deepfakes αναμένεται να διογκωθεί και να αποτελέσει πηγή ανησυχίας και αναταραχής στο άμεσο μέλλον. Η Επιτροπή Επεξεργασίας Απόρρητων Πληροφοριών (επί της ουσίας η πολιτική αρχή που ελέγχει τις μυστικές υπηρεσίες) της Αμερικανικής Βουλής των αντιπροσώπων απηύθυνε ένα ερώτημα στο Facebook, το Twitter και την Google. Αφορούσε στα μέτρα που σχεδιάζουν να λάβουν οι γίγαντες του Διαδικτύου εν όψει της έξαρσης των fake news και των Deepfakes στις εκλογές του 2020. Η απειλή από τα Deepfake είναι ήδη ορατή και δεν θα σταματήσει να μεγεθύνεται. Κυρίως διότι η τεχνολογία στην οποία βασίζεται αυτή η εσκεμμένα αλλοιωμένη απεικόνιση της πραγματικότητας θα γίνεται όλο και ευρύτερα διαθέσιμη. Deepfake, άλλωστε, είναι μια σύνθετη λέξη, με συστατικά τις έννοιες «deep learning» και «fake». Το πρώτο αναφέρεται στις τεράστιες, σχεδόν μαγικές ικανότητες των υπολογιστών να διδάσκονται και να διευρύνουν το πεδίο ελέγχου τους. Το δεύτερο είναι όμως η ηθική πρόθεση της εξαπάτησης, κάτι βαθιά και γνήσια ανθρώπινο.