تعد Alexa التي تعمل بنظام الذكاء الاصطناعي من أمازون علامة حمراء كبيرة على الخصوصية مثل Alexa القديمة – آرس تكنيكا

تحاول أمازون جعل Alexa أبسط وأكثر سهولة للمستخدمين من خلال استخدام نموذج لغة كبير جديد (LLM). خلال حدثها السنوي للأجهزة يوم الأربعاء، قامت أمازون بعرض تجريبي لـ Alexa الذي يعمل بالذكاء الاصطناعي والذي يمكن للمستخدمين معاينته قريبًا على أجهزة Echo. ولكن في كل حديثها عن الميزات الجديدة والمستقبل الذي يغذيه الذكاء الاصطناعي، بالكاد اعترفت أمازون بالفيل الموجود منذ فترة طويلة في الغرفة: الخصوصية.

شهد حدث أجهزة أمازون عرض Echo Show 8 الجديد، وأجهزة Ring المحدثة، وعصي Fire TV الجديدة. ولكن الأكثر إثارة للاهتمام هو إلقاء نظرة على كيفية محاولة الشركة التغلب على الضجيج التوليدي للذكاء الاصطناعي وعدم اليقين بشأن مستقبل المساعدين الصوتيين. قالت أمازون إن المستخدمين سيكونون قادرين على البدء في معاينة ميزات Alexa الجديدة عبر أي جهاز Echo، بما في ذلك الجهاز الأصلي، في بضعة أسابيع.

يتم تمكين ميزات Alexa المضافة من خلال LLM جديد تقول أمازون إنه تم ضبطه بدقة للمحادثات الصوتية ويستخدم خوارزميات للتعرف على لغة الجسد والتنغيم. كانت الشركة واضحة أن Alexa ستركز على الذكاء الاصطناعي التوليدي في المستقبل. لكن الميزات الجديدة لا تزال في مراحلها الأولى، كما أشارت أمازون، لذلك من المتوقع ظهور المطبات والأخطاء في البداية.

“أليكسا، هل يمكنني أخيرًا التوقف عن قول أليكسا؟”

أحد التطورات التي كان لها تأثير ملحوظ على الفور هو تعلم Alexa للاستماع دون أن يحتاج المستخدم إلى قول “Alexa” أولاً. سيتمكن الجهاز من استخدام الكاميرا الخاصة به، والمعرف المرئي الذي تم إنشاؤه مسبقًا للمستخدمين، والإعداد السابق مع Alexa لتحديد متى يتحدث شخص ما إليه.

في العرض التوضيحي، تمكن ديفيد ليمب، نائب الرئيس الأول للأجهزة والخدمات في أمازون، من إجراء محادثة مع Alexa، والابتعاد للحظة، ثم العودة إلى الجهاز لإجراء مزيد من المحادثة دون قول “Alexa” مرة أخرى.

وأوضح روهيت براساد، نائب الرئيس الأول ورئيس عالم الذكاء الاصطناعي في أمازون، على خشبة المسرح: “أصبح هذا ممكنًا من خلال المعالجة المرئية على الجهاز والنماذج الصوتية التي تعمل بشكل متضافر في محاولة لتحديد ما إذا كنت تخاطب الجهاز أو شخصًا آخر في الغرفة”. في حدث أمازون.

تعمل أمازون أيضًا على تقليل وقت استجابة Alexa والسماح للمستخدمين بالإيقاف المؤقت أو استخدام مواد الحشو مثل “um” دون انقطاع التفاعل. وقال براساد إن Alexa يمكنها القيام بذلك عن طريق استخدام نموذج مطابق ضخم يحتوي على مليارات المعلمات.

كل هذا يشير إلى أن Alexa يستمع ويشاهد بقصد أكبر من أي وقت مضى. لكن العرض التقديمي الذي قدمته أمازون لم يوضح بالتفصيل أي إمكانات جديدة تتعلق بالخصوصية أو الأمان للتأكد من عدم استخدام هذه القوة الجديدة بشكل ضار أو بطريقة لا يتفق معها المستخدمون.

عند الوصول للتعليق، أشار متحدث باسم أمازون إلى ما تم تحديده مسبقًا ميزات خصوصية اليكسا، بما في ذلك ضوء مؤشر على أجهزة Echo يشير إلى أن Alexa يستمع ويسمح للمستخدمين بمراجعة السجل الصوتي وإدارته.

وأضاف المتحدث أن أمازون تستخدم “العديد من التكتيكات والميزات” لتأمين الأجهزة وبيانات العملاء، بما في ذلك “مراجعات أمنية صارمة أثناء التطوير، والتشفير لحماية البيانات، وتحديثات أمان البرامج المنتظمة”، وأن أمازون “ستواصل اتخاذ خطوات لتعزيز تصلب “أمان الجهاز.

سعيًا لتقليل الملل الناتج عن التحكم في العديد من الأجهزة المنزلية الذكية، تعمل أمازون أيضًا على تحديث Alexa لتبسيط أوامر المنزل الذكي. على سبيل المثال، يمكن أن تعرف Alexa في النهاية كيفية “تشغيل الضوء الجديد في غرفة المعيشة”، حتى لو كنت لا تعرف “الاسم” الرسمي لذلك المصباح الذكي. ناقشت أمازون أيضًا القدرة على التحكم في أجهزة متعددة وإعداد إجراءات روتينية بجملة واحدة بدلاً من الاضطرار إلى قول “Alexa” واسم جهاز لكل تعليمات. تشمل التطورات الأخرى جعل Alexa يستنتج ما تريد، مثل تسريع جهاز robovac عندما تخبره أن المنزل متسخ. مثل هذه الميزات، إذا كانت موثوقة، من شأنها أن تجعل التحكم الصوتي في الأجهزة الذكية أكثر جاذبية وبديهية بشكل ملحوظ. ستكون الميزات قابلة للمعاينة “في الأشهر المقبلة” من أمازون قال.

تلفزيونات الذكاء الاصطناعي والنار

وعرضت أمازون أيضًا الطرق التي يمكن لأجهزة Fire TV المزودة بتقنية الذكاء الاصطناعي التوليدي أن تساعد المستخدمين في العثور على المحتوى الرقمي. تم الإبلاغ سابقًا عن أن أمازون كانت تستكشف بعض هذه الميزات، مثل قيام Alexa بتقديم توصيات بشأن الأفلام والبرامج التلفزيونية بناءً على مطالبات مثل “ابحث عن الفيلم مع ذلك الرجل الذي لعب دور المحامي فيه”. سيئة للغاية” أو البحث في الخيارات باستخدام مرشحات مثل “اعرض لي أفلام الحركة،” متبوعة بـ “اعرض لي الأفلام التي لا يتعين علي أن أدفع مقابلها”، و”اعرض لي الأفلام التي لم أرها بعد”. ولتقديم هذه التوصيات، ال تسحب أجهزة Fire TV من مصادر مختلفة لمحتوى الأفلام والتلفزيون، بما في ذلك IMDB، ومن ملف تعريف Fire TV الخاص بالمستخدمين وعادات المشاهدة.

وقالت أمازون إن ميزات Fire TV AI الجديدة، بما في ذلك القدرة على تحميل الصور العائلية وإضافة المرشحات إليها، ستصل عبر تحديث عبر الهواء في وقت لاحق من هذا العام.

هذه الميزات المخطط لها منطقية في حد ذاتها. أصبح العثور على المحتوى وسط حروب البث المباشر اليوم أمرًا شاقًا، وقد أشرت سابقًا إلى أجهزة Fire TV باعتبارها شريان حياة محتمل لإيرادات Alexa. لكنني أقاوم تسليم المزيد من عادات المشاهدة الخاصة بي إلى أمازون. لقد ادعت أمازون دائمًا عدم بيع بيانات العملاء، ولكن لا يزال من الممكن استخدام هذه البيانات لاتخاذ قرارات العمل والكشف عنها الاتجاهات غير الخاصة بالمستخدم مع أطراف ثالثة، وللتسويق المستهدف.

اليكسا الشات بوت

يتطور Alexa أيضًا إلى chatbot يستخدم الإدخال الصوتي والكاميرا وأجهزة استشعار اكتشاف التواجد للدردشة مع المستخدمين وتوفير المعلومات بسرعة. هناك الكثير من التركيز على أن تتمتع Alexa بشخصية تتجسد من خلال صوت أكثر تعبيرًا وأن يكون لروبوت الدردشة آراء مثل فريق رياضي مفضل. ويجب أن يكون قادرًا أيضًا على إجراء محادثات متبادلة وإنشاء محتوى، مثل القصائد، بإشارات محددة أو حتى متغيرة.

“[Alexa has] وقال ليمب على خشبة المسرح: “لقد كنا دائمًا أكثر معاملات قليلاً مما نرغب، ولكن هذا كان حدًا للتكنولوجيا، وليس الرؤية”.

يبدو أن العرض التوضيحي لـ Limp يُظهر لـ Alexa مسودة مذكرة تدعو الأشخاص إلى الزيارة وتتضمن تفاصيل (مثل أنه سيكون هناك دجاج شواء) من محادثتها السابقة مع Limp. ومن ثم يبدو أنه أرسل الملاحظة إلى هاتف Limp، ومن المحتمل أن يكون ذلك إلى تطبيق Alexa.

ستكون ميزات chatbot الخاصة بـ Alexa متاحة كـ “معاينة مبكرة” في الأسابيع المقبلة. يتم تشغيلها عندما يقول المستخدم، “Alexa، فلنتحدث” وتنتهي عندما يقول “خروج”.

Alexa الجديد، نفس المخاوف المتعلقة بالخصوصية

خلال العام الماضي، كانت هناك تساؤلات حول مستقبل المساعدين الصوتيين مثل Alexa وGoogle Assistant، حيث فشلوا في أن يصبحوا مصادر دخل موثوقة.

تاريخيًا، تم بيع العديد من أجهزة أمازون الذكية، مثل Echos، بسعر التكلفة، مع أمل في جني الأموال من خلال المعاملات المستندة إلى Alexa ومن خلال الوصول إلى المحتوى الرقمي (ومع ذلك، أشار تقرير حديث إلى أن أمازون تتجه نحو احتمال جني الأموال من الأجهزة التي تكون أرخص في الإنتاج).

ولكن بينما تسعى أمازون إلى وضع Alexa في المزيد من الغرف في منازل الناس (لا أستطيع إحصاء عدد المرات التي ألمحت فيها أمازون إلى أن Alexa يشبه أحد أفراد الأسرة)، لم تفعل الشركة الكثير لتحسين الثقة في أن أجهزتها ستكون آمنة وغير غازية. .

وكما قال ليمب خلال العرض التقديمي يوم الأربعاء، تريد أمازون أن تكون Alexa قادرة على تذكر الموسيقى التي تم تشغيلها مؤخرًا، وتمكين التذكيرات الشخصية، والتوصية بالوصفات بناءً على مشتريات البقالة. وللقيام بذلك، ستحتاج إلى الاستفادة من “التفضيلات التي تشاركها، والخدمات التي تفاعلت معها، والمعلومات المتعلقة بالبيئة داخل منزلك وحوله”. قد يصبح توفير كل هذه المعلومات لـ Alexa أسهل مع هذا التحديث المنتج للذكاء الاصطناعي، ولكن الثقة لم يصبح Alexa بالضرورة أسهل.

إن استخدام المعرفات المرئية لتمكين استخدام Alexa بدون كلمة تنبيه يزيد من الاعتماد على الكاميرات والميكروفونات، ومع ذلك لم تكشف أمازون عن أي أساليب متجددة لخصوصية العملاء. تم القبض على الشركة سابقًا وهي تحتفظ بالتسجيلات، بما في ذلك الأطفالإلى الأبد، وتم القبض على عمال أمازون وهم يستمعون إلى صوت Alexa ويتجسسون على مستخدمي Ring. وقد تم استخدام صوت Alexa في المحاكمات الجنائية. تقول أمازون إنها لا ترسل صورًا أو مقاطع فيديو إلى السحابة وتؤكد على زر إيقاف تشغيل الميكروفون / الكاميرا الخاص بأجهزة Echo Show ومصراع الكاميرا الفعلي المدمج.

سلط حدث الأربعاء الضوء على الطرق التي يمكن للأطفال من خلالها إجراء محادثات تفاعلية مع Alexa من خلال لعب ألعاب التوافه وتعلم الحقائق. هذا استكشف مع اليكسا يجب أن يتم إطلاق الميزة قبل موسم العطلات. لكن أمازون لم تذكر أي طرق جديدة ومحسنة ستضمن أن جميع المحتوى الذي تتم مشاركته مع الأطفال آمن وموثوق.

لقد فشلت Alexa في حماية الأطفال في الماضي، بما في ذلك في عام 2021، عندما نصحت طفلاً يبلغ من العمر 10 سنوات بلمس فلس واحد بقابس مكشوف جزئيًا. وبطبيعة الحال، عالجت أمازون هذا الخطأ المحدد ومن المرجح أن تحاول تجنب مواقف مماثلة في المستقبل. لكن الشركة لم تفعل ما يكفي لإقناعي بأنه لن يكون هناك حدث مماثل، خاصة مع وجود الذكاء الاصطناعي التوليدي.

عندما اتصلت بالمتحدث الرسمي باسم أمازون للتعليق، أخبرني أنه منذ حادثة الفلس، قامت الشركة بتحسين أنظمتها للكشف الوقائي عن “المحتوى المسيء أو الذي يحتمل أن يكون ضارًا” وحظره.

ومع ذلك، فإن تحديث الذكاء الاصطناعي التوليدي لـ Alexa مبني على “سياسات المحتوى الداخلي الحالية وحواجز الحماية”، وفقًا لممثل أمازون. نحن نعلم أن هذه السياسات وحواجز الحماية قد خذلت المستخدمين في الماضي، حتى لو قالت أمازون إنها تعمل على التحسين. عندما يتعلق الأمر بسلامة الأطفال، هناك مجال أقل للخطأ.

وأضاف مندوب أمازون:

لقد قمنا أيضًا بتأسيس LLM على أساس معرفي بحيث إذا كان النموذج يفتقر إلى المعلومات اللازمة للاستجابة، فسوف يستشير تلقائيًا مصادر البيانات المرخصة والرسم البياني المعرفي الذي يساعد Alexa في الإجابة بدقة على أسئلة العملاء اليوم. LLM قادر على تجميع المعلومات الأكثر دقة وحداثة قبل الرد لتقليل الاستجابات غير الدقيقة.

وصف ليمب الثقة بأنها ركيزة أساسية لتحديث الذكاء الاصطناعي التوليدي قائلاً:

عليك أن تثق بهذا. إنه في منزلك. نحن نؤمن بعدم وجود أي مقايضة على الإطلاق بين الثقة والأداء… ولهذا السبب سنستمر في تزويد العملاء بالمعلومات والضوابط حتى يتمكنوا من التحكم في تجربتهم، حتى مع وجود الذكاء الاصطناعي التوليدي الذي يدعم ذلك في الخلفية.

الخصوصية والأمان ليسا من الأمور الأكثر بهرجة في العروض التقديمية المباشرة، ولكن منذ انتهاء حدث أمازون، لم تقدم الشركة أي معلومات متابعة حول أي طرق جديدة تعمل بها أمازون لضمان تعاملها بشكل صحيح مع بيانات العملاء والخصوصية.

تريد أمازون أن يكون العمل مع Alexa أسهل، ولكن أيضًا أكثر ذكاءً فيما يتعلق بمكانك، وكيف تعيش، وما تحب، وما فعلته وشاهدته، وما يهتم به أطفالك. يمكن لبعض تطورات Alexa تحسين عملها فائدتها، ولكن جاذبيتها تظل محدودة حتى تتمكن أمازون من إثبات أنها تعطي الأولوية للأمن والخصوصية بقدر ما تجعل أليكسا أكثر قدرة على المنافسة.