Das mit dem extend() ist kein klassisches JavaScript, sondern jQuery - eine Bibliothek, die einige Arbeiten mit JavaScipt vereinfacht, aber nicht unbedingt die Lesbarkeit steigert.
Was hier "erweitert" wird ist das {}. Eine Funktion - oder weil Funktionen und Klassen in JavaScript nicht unterschieden werden - ein leeres Objekt. Und dieses wird einmal um die vorherigen Einstellungen von datepicker ergänzt (das ist der Knackpunkt) und dann nochmal um dateFormat. Das was man damit herausbekommt (in options) legt man dann als Standard-Einstellungen für den datepicker fest. Würde man die bisherigen Einstellungen (also den Mittelteil) weglassen, würde mit dem setDefaults() alles zurückgesetzt.
Wie gesagt: Nicht unbedingt geeignet, um leicht lesbaren Code zu erzeugen...