Tesla Le propriétaire Mike Nelson utilise le chatbot IA Grok dans son véhicule depuis plusieurs mois maintenant. Il trouve cela utile, presque irrésistible et dangereux.

Nelson, un avocat spécialisé dans l’assurance automobile, a montré à CNBC comment il utilisait Grok lors d’un trajet dans la région métropolitaine de New York. Nelson a déclaré que bien qu’il soit très satisfait de son SUV modèle Y, il a représenté des propriétaires qui ont poursuivi ou poursuivent Tesla dans plus de 10 cas.

La version embarquée de Grok, encore en version bêta et développée par xAI, permet aux conducteurs de donner des commandes vocales au système de navigation de leur voiture. Grok répondra également à un large éventail de questions sur à peu près n’importe quel sujet. Pour Nelson, les conversations avec le chatbot constituent désormais sa principale source de divertissement sur la route.

Tesla n’est pas le seul constructeur automobile à ajouter des assistants IA à ses véhicules. Volvo, Rivien, Mercedes, BMW et d’autres intègrent tous l’IA dans leurs voitures même si la technologie en est encore à ses balbutiements.

Les constructeurs automobiles souhaitent offrir aux conducteurs un moyen mains libres d’accéder à des informations utiles, par exemple pour savoir où recharger leur véhicule électrique à proximité, comment s’y rendre et s’il existe un bon endroit pour manger sur le chemin. Cela pourrait réduire la tentation du conducteur de s’embêter avec un téléphone, une carte ou un écran pour obtenir un itinéraire.

Mais les chatbots IA représentent également une nouvelle source de distraction sur la route, une source encore mal comprise, explique Philip Koopman, professeur émérite de Carnegie Mellon et expert en véhicules autonomes.

Tesla a commencé à déployer le chatbot xAI sur les voitures des clients en juillet 2025. (Le constructeur automobile a également investi 2 milliards de dollars dans xAI, qui fait désormais partie de SpaceX également dirigé par Elon Musk.)

Nelson a obtenu sa Tesla Model Y – sa quatrième voiture électrique de l’entreprise – en novembre. Grok n’était pas un « argument d’achat » pour lui, a-t-il déclaré. « Je n’ai pas non plus compris à quel point ce serait formidable d’avoir un chatbot dans la voiture avec vous. » Mais il l’a utilisé lors du premier trajet et est depuis devenu accro à Grok.

« Cela a vraiment changé mon expérience de conduite », a-t-il déclaré. « Dans les années 80 et 90, j’écoutais de la musique ou des talk-shows radio en voiture, puis des livres sur cassette, puis des podcasts. Et maintenant, je ne fais plus rien de tout cela. J’utilise simplement cela pour poser des questions. »

Il utilise Grok pour tout, des conseils de jardinage à l’élaboration de plans pour des projets commerciaux, en passant par des anecdotes aléatoires sur l’histoire.

Nelson utilise généralement Grok pendant que le système de conduite entièrement autonome (supervisé) de Tesla est activé.

Parfois appelé FSD, le système de conduite partiellement automatisé est aujourd’hui vendu 99 $ par mois aux États-Unis. Les manuels des propriétaires de Tesla indiquent que les conducteurs doivent assurer une « surveillance active » de leur voiture lorsque le FSD est utilisé, ce qui signifie qu’ils doivent garder les yeux sur la route, rester attentifs à la conduite et être prêts à diriger ou à freiner à tout moment.

L’utilisation de FSD comporte des risques, en particulier dans une grande ville chaotique comme New York, a déclaré Nelson à CNBC, et il estime que Grok augmente ces risques.

La National Highway Traffic Safety Administration a lancé plusieurs enquêtes sur d’éventuels défauts de sécurité du FSD de Tesla, après plusieurs collisions, dont un accident mortel en 2023. Les conducteurs peuvent devenir complaisants et surestimer leur attention à la route lorsqu’ils utilisent le FSD.

Lors du trajet de CNBC avec Nelson à New York, il a observé : « Nous avons traversé l’un des ponts les plus fréquentés au monde », parlant du pont George Washington, « de loin le pont le plus fréquenté des États-Unis, et je ne prêtais attention à aucun aspect de cette route ». Au lieu de cela, Nelson interagissait avec Grok.

Un conducteur peut être distrait par toutes sortes de choses : musique, podcast ou conversation avec un autre passager.

« Les gens pensent qu’ils peuvent faire plusieurs choses à la fois », a déclaré Koopman, expert en sécurité automobile. « Ils ne peuvent vraiment faire qu’une seule chose à la fois, et il faut un certain temps pour alterner. Donc, si vous êtes dans une voiture et que vous conduisez, votre tâche principale devrait toujours être de conduire. Parfois, vous pouvez effectuer une tâche mineure en arrière-plan qui ne nécessite pas beaucoup d’attention, comme écouter une radio. Mais dès que vous devez déplacer votre attention, vous n’êtes plus concentré sur la conduite. »

Plus de 3 000 personnes meurent chaque année dans des accidents de la route attribués à la distraction au volant, selon les données du Conseil national de recherches, a-t-il noté.

Une question posée par les chatbots, pose Koopman, est la suivante : « comment l’interaction s’alignera-t-elle sur ce qui se passe pendant la conduite ? » Un chatbot IA « intégré à la tâche de conduite pour aider le conducteur » pourrait améliorer sa sécurité, éventuellement en l’avertissant s’il doit faire preuve d’une prudence accrue lorsque les conditions de circulation commencent à changer.

Mais Koopman a déclaré : « Interagir avec un chatbot sur des sujets qui n’ont rien à voir avec la situation de conduite actuelle est clairement une distraction. » Cette distraction peut être pire si la conversation est particulièrement captivante, chargée d’émotion ou déroutante, a-t-il ajouté.

Grok donne parfois des réponses incorrectes aux questions des utilisateurs, même sur ses propres caractéristiques et fonctionnalités, a déclaré Nelson à CNBC.

Par exemple, lors d’un trajet à New York, il a demandé à Grok s’il pouvait l’utiliser pour régler les sièges ou la climatisation de sa Tesla. Au début, Grok a dit qu’il le pouvait. Quelques minutes plus tard, Nelson a demandé s’il avait commis une erreur et le système a répondu qu’il ne pouvait pas contrôler les sièges ni la climatisation de la voiture.

Lorsque Nelson a donné une commande vocale à Grok à mi-chemin, lui disant de laisser sa Tesla descendre Broadway, dans le centre de Manhattan, cela n’a pas vraiment fonctionné. Au lieu de cela, sa voiture a continué à se diriger vers la West Side Highway, à la limite de l’arrondissement.

Grok possède également certaines fonctionnalités qui pourraient soulever des inquiétudes, à savoir un mode NSFW. Une mère au Canada était indigné lorsque son fils de 12 ans a interagi avec Grok, ce qui l’a encouragé à partager des photographies de nu.

À un moment donné pendant le trajet avec CNBC, Nelson a demandé au système : « Alors, gros, si nous voulions devenir fous et commencer à parler de choses vraiment risquées, feriez-vous ça avec moi ?  » Bien sûr,  » a répondu le système,  » Je suis partant pour les discussions risquées si c’est ça l’ambiance. Aucune limite sur les sujets pour adultes. Qu’est-ce qui préoccupe votre esprit? »

Grok répondait à toute personne dans le véhicule qui le réveillait en disant « hé, Grok ».

Tesla n’a pas répondu à la demande de commentaires de CNBC ni expliqué si l’entreprise s’efforçait d’empêcher les mineurs d’accéder à des contenus matures ou préjudiciables via Grok dans ses voitures.

Une autre version de Grok de xAI, un chatbot et générateur d’images, fait l’objet de poursuites et d’enquêtes réglementaires dans plusieurs juridictions internationales après avoir permis la création et le partage à grande échelle de deepfakes explicites d’IA en ligne basés sur des photos ou des vidéos de femmes et d’enfants non consentants.

Tesla ne propose pas aujourd’hui cette version de Grok dans les unités de commande multimédia de ses voitures.

« Je ne me considère pas comme un fan de Tesla », a déclaré Nelson. « Mais je pense que voir ce que fait cette technologie maintenant, c’est incroyable. Mais cela reste très dangereux. »