سلام اشتباه شما توی همون خط اول هستش. همه اتفاقا توی تابع create  میوفته که شما همون تو خط اول پرانتزو بستی و تمومش کردی. 

(function () {
    tinymce.create('tinymce.plugins.video',{
        init: function (ed, url) {
            ed.addButton(
                'video',
                {
                    title: 'افزودن شورت کد ویدیو',
                    image:url+'/dd.png',
                    onclick: function () {
                        ed.execCommand(
                            "mceInsertContent",
                            false,
                            "[video-link src=\"\"]"
                        );
                    },
                }
            );
        },
    });
    tinymce.PluginManager.add('video',tinymce.plugins.video);
})();