profosyonel olduğumu söylemiyorum ben de acemiyim fakat elimden geldiğince bir sonuç bulmaya çalıştım.

büyük ihtimalle benim brute force ile yaptığım bu çözümü bunca for döngüsü kullanmak yerine recursive bir fonksiyon ile hem çok daha hızlı hem çok daha verimli bir şekilde yapabilirsiniz. ama başlangıç için iş görür:

#include<stdio.h>

int main(){
 
 //260 lira olması gerekli
 //eldeki paralar 2*500 + 1*200 + 3*100 + 2*50 + 1*20 + 4*10
 int a,b,c,d,e,f;
 //sırasıyla kullanacağımız banknotların sayısı(a tane 500,b tane 200,c tane 100...)
 //500 lira 260dan büyük olduğundan a'yı hiç hesaba katmayız.
 for(b=0;b*200<=260 && b<=1;b++)
  for(c=0;(c*100+b*200)<=260 && c<=3;c++)
   for(d=0;(b*200+c*100+d*50)<=260 && d<=2;d++)
    for(e=0;(b*200+c*100+d*50+e*20)<=260 && e<=1;e++)
     for(f=0;(b*200+c*100+d*50+e*20+f*10)<=260 && f<=4;f++)
      if(b*200+c*100+d*50+e*20+f*10==260)
       printf("%d 200lik, %d 100lik, %d 50lik, %d 20lik, %d 10lik\n",b,c,d,e,f);
 return 0;
}