Όταν οι Φακοί έφτασαν το 2015, η τεχνολογία επαυξημένης πραγματικότητας (AR) ζωντάνεψε τη μαγεία μπροστά στα μάτια μας, ανατρέποντας την ιδέα μας για το τι ήταν εφικτό. Σήμερα, πάνω από 300 εκατομμύρια Snapchatters ασχολούνται με την ΕΠ κάθε μέρα κατά μέσο όρο, καθώς θεωρούμε δεδομένη αυτού του είδους την τεχνολογία στις καθημερινές εμπειρίες μας με την κάμερα.

Τώρα, οι πρόσφατες εξελίξεις στην ΤΝ ανοίγουν τον δρόμο για απεριόριστες και συναρπαστικές δυνατότητες, ανατρέποντας για ακόμα μια φορά το τι θεωρούσαμε δυνατόν.

Ήδη, υπάρχουν τόσο πολλοί εμπνευσμένοι τρόποι με τους οποίους οι Snapchatters μπορούν να εκφραστούν χρησιμοποιώντας την ΤΝ, είτε δημιουργώντας μια Ταπετσαρία chat μέσω παραγωγικής τεχνητής νοημοσύνης για να εξατομικεύσουν το περιβάλλον μιας συζήτησης με έναν φίλο, μεταμορφώνοντας τους εαυτούς τους με ευφάνταστους τρόπους με τους Φακούς ΤΝ, ή μαθαίνοντας για τον κόσμο μέσα από συζητήσεις με το My AI. Είμαστε πολύ ενθουσιασμένοι με τη δυνατότητα αυτής της τεχνολογίας να βοηθάει την κοινότητά μας να ξεκλειδώνει περαιτέρω τη δημιουργικότητα και τη φαντασία της.

Διαφάνεια ΤΝ

Πιστεύουμε ότι οι Snapchatter θα πρέπει να ενημερώνονται για τους τύπους τεχνολογιών που χρησιμοποιούν είτε δημιουργούν διασκεδαστικά γραφικά είτε μαθαίνουν μέσω συνομιλιών κειμένου με το My AI.

Χρησιμοποιούμε εικονίδια βάσει περιεχομένου, σύμβολα και ετικέτες εντός εφαρμογής για να παρέχουμε διαφάνεια βάσει περιεχομένου στους Snapchatter όταν αλληλεπιδρούν με μια λειτουργία που υποστηρίζεται από τεχνολογία AI. Για παράδειγμα, όταν ένας Snapchatter μοιράζεται μια εικόνα Ονείρων που έχουν δημιουργηθεί από ΤΝ, ο αποδέκτης βλέπει μια Κάρτα περιεχομένου με περισσότερες πληροφορίες. Άλλες λειτουργίες, όπως το εργαλείο επέκτασης που χρησιμοποιεί την ΤΝ για να κάνει ένα Snap να φανεί με μικρότερο ζουμ, ορίζεται ως λειτουργία ΤΝ μέσω ενός αστραφτερού εικονιδίου για τον Snapchatter που δημιουργεί το Snap.

Φροντίζουμε επίσης να ελέγχουμε όλες τις πολιτικές διαφημίσεις μέσω μιας αυστηρής διαδικασίας ανθρώπινου ελέγχου, συμπεριλαμβανομένου ενός διεξοδικού ελέγχου για τυχόν παραπλανητική χρήση περιεχομένου, συμπεριλαμβανομένης του AI για τη δημιουργία παραπλανητικών εικόνων ή περιεχομένου.

Σύντομα, θα προσθέσουμε ένα υδατογράφημα σε εικόνες που δημιουργούνται από AI. Θα εμφανίζεται σε εικόνες που έχουν δημιουργηθεί με τα εργαλεία παραγωγικής τεχνητής νοημοσύνης της Snap όταν η εικόνα εξάγεται ή αποθηκεύεται στο Άλμπουμ Κάμερας. Οι παραλήπτες μιας εικόνας που έχει δημιουργηθεί με AI που έχει δημιουργηθεί στο Snapchat ενδέχεται να δουν ένα μικρό λογότυπο φάντασμα με το ευρέως αναγνωρισμένο εικονίδιο λάμψης δίπλα του. Η προσθήκη αυτών των υδατογραφημάτων θα βοηθήσει να ενημερώσει όσους τη βλέπουν ότι η εικόνα δημιουργήθηκε με AI στο Snapchat.

Τυποποιημένες δοκιμές και πρωτόκολλα ασφαλείας 

Παίρνουμε σοβαρά την ευθύνη μας να σχεδιάζουμε προϊόντα και εμπειρίες που δίνουν προτεραιότητα στο απόρρητο, την ασφάλεια και την ηλικιακή καταλληλότητα. Όπως όλα τα προϊόντα μας, οι λειτουργίες που τροφοδοτούνται με AI υποβάλλονται πάντα σε αυστηρό έλεγχο για να διασφαλιστεί ότι συμμορφώνονται με τις αρχές ασφάλειας και απορρήτου μας – και μέσω των μαθημάτων μας με την πάροδο του χρόνου, έχουμε αναπτύξει πρόσθετες διασφαλίσεις:

Red-Teaming

Το AI red-teaming είναι μια ολοένα και πιο κοινή τακτική που χρησιμοποιείται για τη δοκιμή και τον εντοπισμό πιθανών ελαττωμάτων σε μοντέλα AI και δυνατότητες με δυνατότητα AI και την εφαρμογή λύσεων για τη βελτίωση της ασφάλειας και της συνέπειας των εξόδων AI.

Έχουμε υιοθετήσει από νωρίς νέες μεθόδους AI red-teaming για μοντέλα παραγωγής εικόνας, συνεργαζόμενοι με τη HackerOne για περισσότερες από 2.500 ώρες εργασίας για να δοκιμάσουμε την αποτελεσματικότητα των αυστηρών διασφαλίσεών μας.

Φιλτράρισμα ασφαλείας και συνεπής επισήμανση

Καθώς επεκτείναμε τις εμπειρίες με δυνατότητα παραγωγικής τεχνητής νοημοσύνης που είναι διαθέσιμες στο Snapchat, θεσπίσαμε αρχές υπεύθυνης διακυβέρνησης και βελτιώσαμε επίσης τους μετριασμούς ασφαλείας μας.

Δημιουργήσαμε μια διαδικασία ελέγχου ασφάλειας για τον εντοπισμό και την κατάργηση δυνητικά προβληματικών μηνυμάτων στα πρώτα στάδια ανάπτυξης των εμπειριών με τον Φακό AI που έχουν σχεδιαστεί από την ομάδα μας. Όλοι οι φακοί AI μας που δημιουργούν μια εικόνα από μια προτροπή περνούν από αυτήν τη διαδικασία προτού οριστικοποιηθούν και γίνουν διαθέσιμοι στην κοινότητά μας.

Συμπεριληπτικές Δοκιμές

Θέλουμε οι Snapchatter από όλα τα κοινωνικά στρώματα να έχουν δίκαιη πρόσβαση και προσδοκίες όταν χρησιμοποιούν όλες τις δυνατότητες της εφαρμογής μας, ιδιαίτερα τις εμπειρίες μας που βασίζονται σε AI.

Έχοντας αυτό υπόψη, εφαρμόζουμε πρόσθετες δοκιμές για να ελαχιστοποιήσουμε τα δυνητικά μεροληπτικά αποτελέσματα AI.

Συνεχής δέσμευση για παιδεία AI

Πιστεύουμε στις τεράστιες δυνατότητες της τεχνολογίας AI να βελτιώσει την ικανότητα των μελών της κοινότητάς μας να εκφράζονται και να συνδέονται μεταξύ τους – και δεσμευόμαστε να συνεχίσουμε να βελτιώνουμε αυτά τα πρωτόκολλα ασφάλειας και διαφάνειας.

Ενώ όλα τα εργαλεία AI μας, τόσο με κείμενο όσο και οπτικά, έχουν σχεδιαστεί για να αποφεύγουν την παραγωγή εσφαλμένου, επιβλαβούς ή παραπλανητικού υλικού, ενδέχεται να εξακολουθούν να συμβαίνουν λάθη. Οι Snapchatter μπορούν να αναφέρουν περιεχόμενο και εκτιμούμε αυτό το σχόλιο.

Τέλος, ως μέρος αυτής της συνεχούς δέσμευσης να βοηθήσουμε την κοινότητά μας να κατανοήσει καλύτερα αυτά τα εργαλεία, έχουμε πλέον πρόσθετες πληροφορίες και πόρους στον Ιστότοπο Υποστήριξής μας.