يُعْزى النجاح الذي حققته Google BERT إلى قدرتها على تعليم الآلة معالجة اللغة الطبيعية بناءً على مجموعة كاملة من الكلمات في جملة أو عملية بحث (تدريب ثنائي التوجيه) بدلاً من الطريقة التقليدية للتدريب على التسلسل المرتب للكلمات (من اليسار إلى اليمين أو من اليمين إلى اليسار).
تسمح خوارزمية BERT للآلة بتعلم سياق الكلمات بناءً على الكلمات المحيطة بدلاً من الكلمة التي تسبقها أو تتبعها مباشرة. لهذا تطلق Google على BERT اسم “ثنائي التوجيه الشديد” لأن التمثيلات السياقية للكلمات تبدأ من أسفل شبكة عصبية عميقة.
على سبيل المثال، سيكون لكلمة “بنك” نفس التمثيل مع كلمة “الحساب المصرفي”. بدلاً من ذلك، تنشئ خوارزمية BERT تمثيلًا لكل كلمة استنادًا إلى الكلمات الأخرى في الجملة. مثلا في الجملة “لقد دخلت إلى الحساب المصرفي”، يتم تمثيل النموذج السياقي أحادي الاتجاه “البنك” استنادًا إلى “لقد دخلت إلى الحساب”. بينما يتم تمثيل خوارزمية BERT لكلمة “البنك” باستخدام كل من السياق السابق والتالي “لقد دخلت إلى الحساب المصرفي”.
عرض Google عدة أمثلة حول كيفية تأثير خوارزمية BERT (BERT Algorithm) في البحث على النتائج. في أحد الأمثلة، ظهر طلب البحث “كتب تعلم الرياضيات للكبار” سابقًا قائمة لكتاب للصفوف الدراسية من السادس إلى الثامن في أعلى النتائج. لكن مع خوارزمية BERT، يظهر محرك بحث Google قائمة لكتاب بعنوان “Math for Grownups” في أعلى النتائج.
مما يعني أن الخوارزمية أعطت للباحثين ما كانوا يبحثون عنه. يمكنك أن ترى في النتيجة الحالية لعملية البحث هذه أن كتاب الصفوف من 6 إلى 8 لا يزال في مرتبة متقدمة، ولكن هناك كتابان يستهدفان على وجه التحديد البالغين الآن في مرتبة أعلى منه، بما في ذلك الظهور في المقتطف المميز. وهذا ما يعكس الفهم الجديد لعمليات البحث باستخدام Google BERT.
إليك هذا الدليل التعليمي لمعرفة المزيد عن Google Bert – الخوارزمية التي حوّلت اهتمام صنّاع المحتوى إلى نية البحث بدلا من كلمات البحث