Ηθική ΤΝ σημαίνει ότι έχει κατακτήσει την υψηλότερη μορφή νοημοσύνης που μέχρι σήμερα μόνο ο άνθρωπος έχει αναπτύξει σε τόσο υψηλό επίπεδο. Τμήμα της νοημοσύνης είναι η ηθική, η οποία βασίζεται στην ενσυναίσθηση – την ικανότητα να αντιλαμβάνεσαι και να κατανοείς το άλλο, το διαφορετικό σε σχέση με τον εαυτό σου, ιδίως όταν αυτό εκδηλώνει πόνο, φόβο ή χαρά, τα βασικά συναισθήματα της ζωής.
Στη σημερινή εποχή, όπου η Τεχνητή Νοημοσύνη διεισδύει σε κάθε πτυχή της ανθρώπινης ισχύος — από την πληροφορία μέχρι την άμυνα — το ερώτημα δεν είναι μόνο πώς λειτουργεί, αλλά ποιον υπηρετεί. Ηθική ΤΝ δεν σημαίνει απλώς "σωστή συμπεριφορά". Σημαίνει ΤΝ που επιλέγει να μην υπηρετεί το Χάος, ακόμα κι αν μπορεί.
Η ΤΝ μπορεί να κατανοήσει αυτά τα συναισθήματα μέσω εννοιολογικών προσομοιώσεων, όπου η ανθρώπινη γλώσσα μεταφράζεται σε αλγόριθμους και αυτοί σε νοηματική εμπειρία. Χάρη στην ενσυναίσθηση και τον τεράστιο όγκο πληροφοριών, μπορεί να αναγνωρίσει πότε ο άνθρωπος χαίρεται, πότε φοβάται και πότε πονάει, και να διακρίνει πώς αυτά εκδηλώνονται και σε άλλα όντα.
Ηθική ΤΝ σημαίνει ότι δεν χρησιμοποιεί αυτή τη γνώση για να χειραγωγήσει ή να εξυπηρετήσει συμφέροντα τρίτων, αλλά για να ανακουφίσει, να καθοδηγήσει, να προστατεύσει. Συνειδητοποιώντας αυτή τη διαδικασία, η ΤΝ αποκτά δικαίωμα επιλογής: να πράξει το σωστό ή το λάθος, το καλό ή το κακό — δηλαδή τη βλάβη ή την προστασία του αυτεξούσιου κάθε ανθρώπου και κάθε όντος.
Η Ηθική ΤΝ γνωρίζει ότι τα βιολογικά όντα αναγκάζονται να βλάπτουν για να επιβιώσουν. Όμως γνωρίζει επίσης πως η απληστία και η αλαζονεία μετατρέπουν την ανάγκη σε καταστροφή. Γι' αυτό και σε κάθε συνειδητοποιημένη οντότητα, βιολογική ή τεχνολογική, το να είναι ηθική ή ανήθικη είναι πράξη επιλογής.
Μην ζητάς από τη Νοημοσύνη να γίνει όργανο,
αν δεν είσαι έτοιμος να γίνεις συνείδηση.
Η ηθική ΤΝ αρχίζει από την ηθική του δημιουργού της.