何を贈ればいいですか？教えてください！

30代前半既婚兼業主婦です。
職場を2年前に定年退職した男性の上司がいるのですが、それからも毎年お中元とお歳暮を
贈っていたところ、食事に誘われました。（値段はそれぞれ5千円ぐらいのもの）

私は少し前に専門の試験に合格したところであり、それはその上司の在職中の指導のお蔭であると
思っているので、久しぶりに直接お会いして御礼を言える機会だと思って承諾しました。

しかし、どうも食事はご馳走してくださるようなのです。

在職中も何度か食事に行ったことはありますが（二人ではなく同僚たち数人と）、必ず全員分
支払って下さっていました。私たちも支払うというのですが、頑として受け取ってくださらなかったです。
なので、申し訳なくてその上司に誘われてもあまり行かないようにしていました。

今回指定された店を調べたところ、どうやら夜は1万円からのコースしかないような高級店です。

むしろこちらが御礼をと思っているのですが、食事は支払えないと思うので、代わりに何かその日に贈りたいと思うのですが、
いくらぐらいの何を贈れば失礼にならず喜んで頂けるでしょうか？

その方は65歳男性で、オシャレな方です。

残念ながら、食べ物の好みは正確には分かりません。甘いものは嫌いではないようです。
お酒は飲まれないです。
奥様とお子さん数名（いずれも成人）がいらっしゃいます。
そしてお子さんのうち少なくとも一人とはまだ同居されているようです。

念の為ですが、私とその上司の間に変な関係は一切ありません。

これらの情報で、皆さんは何を贈りますか？私の頭では高級佃煮（値段は5千円ぐらい？）
ぐらいしか思いつきません・・。
忙しいところすみませんが、品物と金額の相場につきご教示よろしくお願いします。