drivers/video/rockchip/rga/rga_drv.c

   1 /*\r
   2  * Copyright (C) 2012 ROCKCHIP, Inc.\r
   3  *\r
   4  * This software is licensed under the terms of the GNU General Public\r
   5  * License version 2, as published by the Free Software Foundation, and\r
   6  * may be copied, distributed, and modified under those terms.\r
   7  *\r
   8  * This program is distributed in the hope that it will be useful,\r
   9  * but WITHOUT ANY WARRANTY; without even the implied warranty of\r
  10  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the\r
  11  * GNU General Public License for more details.\r
  12  *\r
  13  */\r
  14 \r
  15 #define pr_fmt(fmt) "rga: " fmt\r
  16 #include <linux/kernel.h>\r
  17 #include <linux/init.h>\r
  18 #include <linux/module.h>\r
  19 #include <linux/platform_device.h>\r
  20 #include <linux/sched.h>\r
  21 #include <linux/mutex.h>\r
  22 #include <linux/err.h>\r
  23 #include <linux/clk.h>\r
  24 #include <asm/delay.h>\r
  25 #include <linux/dma-mapping.h>\r
  26 #include <linux/delay.h>\r
  27 #include <asm/io.h>\r
  28 #include <linux/irq.h>\r
  29 #include <linux/interrupt.h>\r
  30 //#include <mach/io.h>\r
  31 //#include <mach/irqs.h>\r
  32 #include <linux/fs.h>\r
  33 #include <asm/uaccess.h>\r
  34 #include <linux/miscdevice.h>\r
  35 #include <linux/poll.h>\r
  36 #include <linux/delay.h>\r
  37 #include <linux/wait.h>\r
  38 #include <linux/syscalls.h>\r
  39 #include <linux/timer.h>\r
  40 #include <linux/time.h>\r
  41 #include <asm/cacheflush.h>\r
  42 #include <linux/slab.h>\r
  43 #include <linux/fb.h>\r
  44 #include <linux/wakelock.h>\r
  45 \r
  46 #if defined(CONFIG_ION_ROCKCHIP)\r
  47 #include <linux/rockchip_ion.h>\r
  48 #endif\r
  49 \r
  50 \r
  51 #include "rga.h"\r
  52 #include "rga_reg_info.h"\r
  53 #include "rga_mmu_info.h"\r
  54 #include "RGA_API.h"\r
  55 \r
  56 #define RGA_TEST_CASE 0\r
  57 \r
  58 #define RGA_TEST 0\r
  59 #define RGA_TEST_TIME 0\r
  60 #define RGA_TEST_FLUSH_TIME 0\r
  61 #define RGA_INFO_BUS_ERROR 1\r
  62 \r
  63 #define PRE_SCALE_BUF_SIZE  2048*1024*4\r
  64 \r
  65 #define RGA_POWER_OFF_DELAY     4*HZ /* 4s */\r
  66 #define RGA_TIMEOUT_DELAY       2*HZ /* 2s */\r
  67 \r
  68 #define RGA_MAJOR               255\r
  69 \r
  70 #if defined(CONFIG_ARCH_RK2928) || defined(CONFIG_ARCH_RK3026)\r
  71 #define RK30_RGA_PHYS           RK2928_RGA_PHYS\r
  72 #define RK30_RGA_SIZE           RK2928_RGA_SIZE\r
  73 #endif\r
  74 #define RGA_RESET_TIMEOUT       1000\r
  75 \r
  76 /* Driver information */\r
  77 #define DRIVER_DESC             "RGA Device Driver"\r
  78 #define DRIVER_NAME             "rga"\r
  79 \r
  80 #define RGA_VERSION   "1.003"\r
  81 \r
  82 ktime_t rga_start;\r
  83 ktime_t rga_end;\r
  84 \r
  85 rga_session rga_session_global;\r
  86 \r
  87 struct rga_drvdata {\r
  88         struct miscdevice miscdev;\r
  89         struct device dev;\r
  90         void *rga_base;\r
  91         int irq;\r
  92 \r
  93         struct delayed_work power_off_work;\r
  94         void (*rga_irq_callback)(int rga_retval);   //callback function used by aync call\r
  95         struct wake_lock wake_lock;\r
  96 \r
  97     struct clk *pd_rga;\r
  98         struct clk *aclk_rga;\r
  99     struct clk *hclk_rga;\r
 100 \r
 101     //#if defined(CONFIG_ION_ROCKCHIP)\r
 102     struct ion_client * ion_client;\r
 103     //#endif\r
 104 };\r
 105 \r
 106 static struct rga_drvdata *drvdata;\r
 107 rga_service_info rga_service;\r
 108 \r
 109 #if defined(CONFIG_ION_ROCKCHIP)\r
 110 extern struct ion_client *rockchip_ion_client_create(const char * name);\r
 111 #endif\r
 112 \r
 113 static int rga_blit_async(rga_session *session, struct rga_req *req);\r
 114 static void rga_del_running_list(void);\r
 115 static void rga_del_running_list_timeout(void);\r
 116 static void rga_try_set_reg(void);\r
 117 \r
 118 \r
 119 /* Logging */\r
 120 #define RGA_DEBUG 0\r
 121 #if RGA_DEBUG\r
 122 #define DBG(format, args...) printk(KERN_DEBUG "%s: " format, DRIVER_NAME, ## args)\r
 123 #define ERR(format, args...) printk(KERN_ERR "%s: " format, DRIVER_NAME, ## args)\r
 124 #define WARNING(format, args...) printk(KERN_WARN "%s: " format, DRIVER_NAME, ## args)\r
 125 #define INFO(format, args...) printk(KERN_INFO "%s: " format, DRIVER_NAME, ## args)\r
 126 #else\r
 127 #define DBG(format, args...)\r
 128 #define ERR(format, args...)\r
 129 #define WARNING(format, args...)\r
 130 #define INFO(format, args...)\r
 131 #endif\r
 132 \r
 133 #if RGA_TEST\r
 134 static void print_info(struct rga_req *req)\r
 135 {\r
 136     printk("src : yrgb_addr = %.8x, src.uv_addr = %.8x, src.v_addr = %.8x, format = %d\n",\r
 137             req->src.yrgb_addr, req->src.uv_addr, req->src.v_addr, req->src.format);\r
 138     printk("src : act_w = %d, act_h = %d, vir_w = %d, vir_h = %d\n",\r
 139         req->src.act_w, req->src.act_h, req->src.vir_w, req->src.vir_h);\r
 140     printk("src : x_off = %.8x y_off = %.8x\n", req->src.x_offset, req->src.y_offset);\r
 141 \r
 142     printk("dst : yrgb_addr = %.8x, dst.uv_addr = %.8x, dst.v_addr = %.8x\n",\r
 143             req->dst.yrgb_addr, req->dst.uv_addr, req->dst.v_addr);\r
 144     printk("dst : x_off = %.8x y_off = %.8x\n", req->dst.x_offset, req->dst.y_offset);\r
 145     printk("dst : act_w = %d, act_h = %d, vir_w = %d, vir_h = %d\n",\r
 146         req->dst.act_w, req->dst.act_h, req->dst.vir_w, req->dst.vir_h);\r
 147 \r
 148     printk("clip.xmin = %d, clip.xmax = %d. clip.ymin = %d, clip.ymax = %d\n",\r
 149         req->clip.xmin, req->clip.xmax, req->clip.ymin, req->clip.ymax);\r
 150 \r
 151     //printk("alpha_rop_flag = %.8x\n", req->alpha_rop_flag);\r
 152     //printk("alpha_rop_mode = %.8x\n", req->alpha_rop_mode);\r
 153     //printk("PD_mode = %.8x\n", req->PD_mode);\r
 154 }\r
 155 #endif\r
 156 \r
 157 \r
 158 static inline void rga_write(u32 b, u32 r)\r
 159 {\r
 160         __raw_writel(b, drvdata->rga_base + r);\r
 161 }\r
 162 \r
 163 static inline u32 rga_read(u32 r)\r
 164 {\r
 165         return __raw_readl(drvdata->rga_base + r);\r
 166 }\r
 167 \r
 168 static void rga_soft_reset(void)\r
 169 {\r
 170         u32 i;\r
 171         u32 reg;\r
 172 \r
 173         rga_write(1, RGA_SYS_CTRL); //RGA_SYS_CTRL\r
 174 \r
 175         for(i = 0; i < RGA_RESET_TIMEOUT; i++)\r
 176         {\r
 177                 reg = rga_read(RGA_SYS_CTRL) & 1; //RGA_SYS_CTRL\r
 178 \r
 179                 if(reg == 0)\r
 180                         break;\r
 181 \r
 182                 udelay(1);\r
 183         }\r
 184 \r
 185         if(i == RGA_RESET_TIMEOUT)\r
 186                 ERR("soft reset timeout.\n");\r
 187 }\r
 188 \r
 189 static void rga_dump(void)\r
 190 {\r
 191         int running;\r
 192     struct rga_reg *reg, *reg_tmp;\r
 193     rga_session *session, *session_tmp;\r
 194 \r
 195         running = atomic_read(&rga_service.total_running);\r
 196         printk("rga total_running %d\n", running);\r
 197 \r
 198     #if 0\r
 199 \r
 200     /* Dump waiting list info */\r
 201     if (!list_empty(&rga_service.waiting))\r
 202     {\r
 203         list_head       *next;\r
 204 \r
 205         next = &rga_service.waiting;\r
 206 \r
 207         printk("rga_service dump waiting list\n");\r
 208 \r
 209         do\r
 210         {\r
 211             reg = list_entry(next->next, struct rga_reg, status_link);\r
 212             running = atomic_read(&reg->session->task_running);\r
 213             num_done = atomic_read(&reg->session->num_done);\r
 214             printk("rga session pid %d, done %d, running %d\n", reg->session->pid, num_done, running);\r
 215             next = next->next;\r
 216         }\r
 217         while(!list_empty(next));\r
 218     }\r
 219 \r
 220     /* Dump running list info */\r
 221     if (!list_empty(&rga_service.running))\r
 222     {\r
 223         printk("rga_service dump running list\n");\r
 224 \r
 225         list_head       *next;\r
 226 \r
 227         next = &rga_service.running;\r
 228         do\r
 229         {\r
 230             reg = list_entry(next->next, struct rga_reg, status_link);\r
 231             running = atomic_read(&reg->session->task_running);\r
 232             num_done = atomic_read(&reg->session->num_done);\r
 233             printk("rga session pid %d, done %d, running %d:\n", reg->session->pid, num_done, running);\r
 234             next = next->next;\r
 235         }\r
 236         while(!list_empty(next));\r
 237     }\r
 238     #endif\r
 239 \r
 240         list_for_each_entry_safe(session, session_tmp, &rga_service.session, list_session)\r
 241     {\r
 242                 printk("session pid %d:\n", session->pid);\r
 243                 running = atomic_read(&session->task_running);\r
 244                 printk("task_running %d\n", running);\r
 245                 list_for_each_entry_safe(reg, reg_tmp, &session->waiting, session_link)\r
 246         {\r
 247                         printk("waiting register set 0x%.8x\n", (unsigned int)reg);\r
 248                 }\r
 249                 list_for_each_entry_safe(reg, reg_tmp, &session->running, session_link)\r
 250         {\r
 251                         printk("running register set 0x%.8x\n", (unsigned int)reg);\r
 252                 }\r
 253         }\r
 254 }\r
 255 \r
 256 static inline void rga_queue_power_off_work(void)\r
 257 {\r
 258         queue_delayed_work(system_nrt_wq, &drvdata->power_off_work, RGA_POWER_OFF_DELAY);\r
 259 }\r
 260 \r
 261 /* Caller must hold rga_service.lock */\r
 262 static void rga_power_on(void)\r
 263 {\r
 264         static ktime_t last;\r
 265         ktime_t now = ktime_get();\r
 266 \r
 267         if (ktime_to_ns(ktime_sub(now, last)) > NSEC_PER_SEC) {\r
 268                 cancel_delayed_work_sync(&drvdata->power_off_work);\r
 269                 rga_queue_power_off_work();\r
 270                 last = now;\r
 271         }\r
 272         if (rga_service.enable)\r
 273                 return;\r
 274 \r
 275         clk_prepare_enable(drvdata->aclk_rga);\r
 276         clk_prepare_enable(drvdata->hclk_rga);\r
 277         //clk_prepare_enable(drvdata->pd_rga);\r
 278         wake_lock(&drvdata->wake_lock);\r
 279         rga_service.enable = true;\r
 280 }\r
 281 \r
 282 /* Caller must hold rga_service.lock */\r
 283 static void rga_power_off(void)\r
 284 {\r
 285         int total_running;\r
 286 \r
 287         if (!rga_service.enable) {\r
 288                 return;\r
 289         }\r
 290 \r
 291         total_running = atomic_read(&rga_service.total_running);\r
 292         if (total_running) {\r
 293                 pr_err("power off when %d task running!!\n", total_running);\r
 294                 mdelay(50);\r
 295                 pr_err("delay 50 ms for running task\n");\r
 296                 rga_dump();\r
 297         }\r
 298 \r
 299         //clk_disable_unprepare(drvdata->pd_rga);\r
 300         clk_disable_unprepare(drvdata->aclk_rga);\r
 301         clk_disable_unprepare(drvdata->hclk_rga);\r
 302         wake_unlock(&drvdata->wake_lock);\r
 303         rga_service.enable = false;\r
 304 }\r
 305 \r
 306 static void rga_power_off_work(struct work_struct *work)\r
 307 {\r
 308         if (mutex_trylock(&rga_service.lock)) {\r
 309                 rga_power_off();\r
 310                 mutex_unlock(&rga_service.lock);\r
 311         } else {\r
 312                 /* Come back later if the device is busy... */\r
 313                 rga_queue_power_off_work();\r
 314         }\r
 315 }\r
 316 \r
 317 static int rga_flush(rga_session *session, unsigned long arg)\r
 318 {\r
 319     int ret = 0;\r
 320     int ret_timeout;\r
 321 \r
 322     #if RGA_TEST_FLUSH_TIME\r
 323     ktime_t start;\r
 324     ktime_t end;\r
 325     start = ktime_get();\r
 326     #endif\r
 327 \r
 328     ret_timeout = wait_event_timeout(session->wait, atomic_read(&session->done), RGA_TIMEOUT_DELAY);\r
 329 \r
 330         if (unlikely(ret_timeout < 0)) {\r
 331                 //pr_err("flush pid %d wait task ret %d\n", session->pid, ret);\r
 332         mutex_lock(&rga_service.lock);\r
 333         rga_del_running_list();\r
 334         mutex_unlock(&rga_service.lock);\r
 335         ret = ret_timeout;\r
 336         } else if (0 == ret_timeout) {\r
 337                 //pr_err("flush pid %d wait %d task done timeout\n", session->pid, atomic_read(&session->task_running));\r
 338         //printk("bus  = %.8x\n", rga_read(RGA_INT));\r
 339         mutex_lock(&rga_service.lock);\r
 340         rga_del_running_list_timeout();\r
 341         rga_try_set_reg();\r
 342         mutex_unlock(&rga_service.lock);\r
 343                 ret = -ETIMEDOUT;\r
 344         }\r
 345 \r
 346     #if RGA_TEST_FLUSH_TIME\r
 347     end = ktime_get();\r
 348     end = ktime_sub(end, start);\r
 349     printk("one flush wait time %d\n", (int)ktime_to_us(end));\r
 350     #endif\r
 351 \r
 352         return ret;\r
 353 }\r
 354 \r
 355 \r
 356 static int rga_get_result(rga_session *session, unsigned long arg)\r
 357 {\r
 358         //printk("rga_get_result %d\n",drvdata->rga_result);\r
 359 \r
 360     int ret = 0;\r
 361 \r
 362     int num_done;\r
 363 \r
 364     num_done = atomic_read(&session->num_done);\r
 365 \r
 366         if (unlikely(copy_to_user((void __user *)arg, &num_done, sizeof(int)))) {\r
 367                         printk("copy_to_user failed\n");\r
 368                         ret =  -EFAULT;\r
 369                 }\r
 370         return ret;\r
 371 }\r
 372 \r
 373 \r
 374 static int rga_check_param(const struct rga_req *req)\r
 375 {\r
 376         /*RGA can support up to 8192*8192 resolution in RGB format,but we limit the image size to 8191*8191 here*/\r
 377         //check src width and height\r
 378 \r
 379     if(!((req->render_mode == color_fill_mode) || (req->render_mode == line_point_drawing_mode)))\r
 380     {\r
 381         if (unlikely((req->src.act_w <= 0) || (req->src.act_w > 8191) || (req->src.act_h <= 0) || (req->src.act_h > 8191)))\r
 382         {\r
 383                 printk("invalid source resolution act_w = %d, act_h = %d\n", req->src.act_w, req->src.act_h);\r
 384                 return  -EINVAL;\r
 385         }\r
 386     }\r
 387 \r
 388     if(!((req->render_mode == color_fill_mode) || (req->render_mode == line_point_drawing_mode)))\r
 389     {\r
 390         if (unlikely((req->src.vir_w <= 0) || (req->src.vir_w > 8191) || (req->src.vir_h <= 0) || (req->src.vir_h > 8191)))\r
 391         {\r
 392                 printk("invalid source resolution vir_w = %d, vir_h = %d\n", req->src.vir_w, req->src.vir_h);\r
 393                 return  -EINVAL;\r
 394         }\r
 395     }\r
 396 \r
 397         //check dst width and height\r
 398         if (unlikely((req->dst.act_w <= 0) || (req->dst.act_w > 2048) || (req->dst.act_h <= 0) || (req->dst.act_h > 2048)))\r
 399     {\r
 400                 printk("invalid destination resolution act_w = %d, act_h = %d\n", req->dst.act_w, req->dst.act_h);\r
 401                 return  -EINVAL;\r
 402         }\r
 403 \r
 404     if (unlikely((req->dst.vir_w <= 0) || (req->dst.vir_w > 4096) || (req->dst.vir_h <= 0) || (req->dst.vir_h > 2048)))\r
 405     {\r
 406                 printk("invalid destination resolution vir_w = %d, vir_h = %d\n", req->dst.vir_w, req->dst.vir_h);\r
 407                 return  -EINVAL;\r
 408         }\r
 409 \r
 410         //check src_vir_w\r
 411         if(unlikely(req->src.vir_w < req->src.act_w)){\r
 412                 printk("invalid src_vir_w act_w = %d, vir_w = %d\n", req->src.act_w, req->src.vir_w);\r
 413                 return  -EINVAL;\r
 414         }\r
 415 \r
 416         //check dst_vir_w\r
 417         if(unlikely(req->dst.vir_w < req->dst.act_w)){\r
 418         if(req->rotate_mode != 1)\r
 419         {\r
 420                     printk("invalid dst_vir_w act_h = %d, vir_h = %d\n", req->dst.act_w, req->dst.vir_w);\r
 421                     return      -EINVAL;\r
 422         }\r
 423         }\r
 424 \r
 425         return 0;\r
 426 }\r
 427 \r
 428 static void rga_copy_reg(struct rga_reg *reg, uint32_t offset)\r
 429 {\r
 430     uint32_t i;\r
 431     uint32_t *cmd_buf;\r
 432     uint32_t *reg_p;\r
 433 \r
 434     if(atomic_read(&reg->session->task_running) != 0)\r
 435     {\r
 436         printk(KERN_ERR "task_running is no zero\n");\r
 437     }\r
 438 \r
 439     atomic_add(1, &rga_service.cmd_num);\r
 440         atomic_add(1, &reg->session->task_running);\r
 441 \r
 442     cmd_buf = (uint32_t *)rga_service.cmd_buff + offset*28;\r
 443     reg_p = (uint32_t *)reg->cmd_reg;\r
 444 \r
 445     for(i=0; i<28; i++)\r
 446     {\r
 447         cmd_buf[i] = reg_p[i];\r
 448     }\r
 449 \r
 450     dsb();\r
 451 }\r
 452 \r
 453 \r
 454 static struct rga_reg * rga_reg_init(rga_session *session, struct rga_req *req)\r
 455 {\r
 456     uint32_t ret;\r
 457         struct rga_reg *reg = kzalloc(sizeof(struct rga_reg), GFP_KERNEL);\r
 458         if (NULL == reg) {\r
 459                 pr_err("kmalloc fail in rga_reg_init\n");\r
 460                 return NULL;\r
 461         }\r
 462 \r
 463     reg->session = session;\r
 464         INIT_LIST_HEAD(&reg->session_link);\r
 465         INIT_LIST_HEAD(&reg->status_link);\r
 466 \r
 467     reg->MMU_base = NULL;\r
 468 \r
 469     if (req->mmu_info.mmu_en)\r
 470     {\r
 471         ret = rga_set_mmu_info(reg, req);\r
 472         if(ret < 0)\r
 473         {\r
 474             printk("%s, [%d] set mmu info error \n", __FUNCTION__, __LINE__);\r
 475             if(reg != NULL)\r
 476             {\r
 477                 kfree(reg);\r
 478             }\r
 479             return NULL;\r
 480         }\r
 481     }\r
 482 \r
 483     if(RGA_gen_reg_info(req, (uint8_t *)reg->cmd_reg) == -1)\r
 484     {\r
 485         printk("gen reg info error\n");\r
 486         if(reg != NULL)\r
 487         {\r
 488             kfree(reg);\r
 489         }\r
 490         return NULL;\r
 491     }\r
 492 \r
 493     mutex_lock(&rga_service.lock);\r
 494         list_add_tail(&reg->status_link, &rga_service.waiting);\r
 495         list_add_tail(&reg->session_link, &session->waiting);\r
 496         mutex_unlock(&rga_service.lock);\r
 497 \r
 498     return reg;\r
 499 }\r
 500 \r
 501 static struct rga_reg * rga_reg_init_2(rga_session *session, struct rga_req *req0, struct rga_req *req1)\r
 502 {\r
 503     uint32_t ret;\r
 504 \r
 505     struct rga_reg *reg0, *reg1;\r
 506 \r
 507     reg0 = NULL;\r
 508     reg1 = NULL;\r
 509 \r
 510     do\r
 511     {\r
 512         reg0 = kzalloc(sizeof(struct rga_reg), GFP_KERNEL);\r
 513         if (NULL == reg0) {\r
 514                 pr_err("%s [%d] kmalloc fail in rga_reg_init\n", __FUNCTION__, __LINE__);\r
 515             break;\r
 516         }\r
 517 \r
 518         reg1 = kzalloc(sizeof(struct rga_reg), GFP_KERNEL);\r
 519         if (NULL == reg1) {\r
 520                 pr_err("%s [%d] kmalloc fail in rga_reg_init\n", __FUNCTION__, __LINE__);\r
 521             break;\r
 522         }\r
 523 \r
 524         reg0->session = session;\r
 525         INIT_LIST_HEAD(&reg0->session_link);\r
 526         INIT_LIST_HEAD(&reg0->status_link);\r
 527 \r
 528         reg1->session = session;\r
 529         INIT_LIST_HEAD(&reg1->session_link);\r
 530         INIT_LIST_HEAD(&reg1->status_link);\r
 531 \r
 532         if(req0->mmu_info.mmu_en)\r
 533         {\r
 534             ret = rga_set_mmu_info(reg0, req0);\r
 535             if(ret < 0) {\r
 536                 printk("%s, [%d] set mmu info error \n", __FUNCTION__, __LINE__);\r
 537                 break;\r
 538             }\r
 539         }\r
 540 \r
 541         RGA_gen_reg_info(req0, (uint8_t *)reg0->cmd_reg);\r
 542 \r
 543         if(req1->mmu_info.mmu_en)\r
 544         {\r
 545             ret = rga_set_mmu_info(reg1, req1);\r
 546             if(ret < 0) {\r
 547                 printk("%s, [%d] set mmu info error \n", __FUNCTION__, __LINE__);\r
 548                 break;\r
 549             }\r
 550         }\r
 551 \r
 552         RGA_gen_reg_info(req1, (uint8_t *)reg1->cmd_reg);\r
 553 \r
 554         mutex_lock(&rga_service.lock);\r
 555         list_add_tail(&reg0->status_link, &rga_service.waiting);\r
 556         list_add_tail(&reg0->session_link, &session->waiting);\r
 557         list_add_tail(&reg1->status_link, &rga_service.waiting);\r
 558         list_add_tail(&reg1->session_link, &session->waiting);\r
 559         mutex_unlock(&rga_service.lock);\r
 560 \r
 561         return reg1;\r
 562     }\r
 563     while(0);\r
 564 \r
 565     if(reg0 != NULL) {\r
 566         kfree(reg0);\r
 567     }\r
 568 \r
 569     if(reg1 != NULL) {\r
 570         kfree(reg1);\r
 571     }\r
 572 \r
 573     return NULL;\r
 574 }\r
 575 \r
 576 /* Caller must hold rga_service.lock */\r
 577 static void rga_reg_deinit(struct rga_reg *reg)\r
 578 {\r
 579         list_del_init(&reg->session_link);\r
 580         list_del_init(&reg->status_link);\r
 581         kfree(reg);\r
 582 }\r
 583 \r
 584 /* Caller must hold rga_service.lock */\r
 585 static void rga_reg_from_wait_to_run(struct rga_reg *reg)\r
 586 {\r
 587         list_del_init(&reg->status_link);\r
 588         list_add_tail(&reg->status_link, &rga_service.running);\r
 589 \r
 590         list_del_init(&reg->session_link);\r
 591         list_add_tail(&reg->session_link, &reg->session->running);\r
 592 }\r
 593 \r
 594 /* Caller must hold rga_service.lock */\r
 595 static void rga_service_session_clear(rga_session *session)\r
 596 {\r
 597         struct rga_reg *reg, *n;\r
 598 \r
 599     list_for_each_entry_safe(reg, n, &session->waiting, session_link)\r
 600     {\r
 601                 rga_reg_deinit(reg);\r
 602         }\r
 603 \r
 604     list_for_each_entry_safe(reg, n, &session->running, session_link)\r
 605     {\r
 606                 rga_reg_deinit(reg);\r
 607         }\r
 608 }\r
 609 \r
 610 /* Caller must hold rga_service.lock */\r
 611 static void rga_try_set_reg(void)\r
 612 {\r
 613     struct rga_reg *reg ;\r
 614 \r
 615     if (list_empty(&rga_service.running))\r
 616     {\r
 617         if (!list_empty(&rga_service.waiting))\r
 618         {\r
 619             /* RGA is idle */\r
 620             reg = list_entry(rga_service.waiting.next, struct rga_reg, status_link);\r
 621 \r
 622             rga_power_on();\r
 623             udelay(1);\r
 624 \r
 625             rga_copy_reg(reg, 0);\r
 626             rga_reg_from_wait_to_run(reg);\r
 627 \r
 628             dmac_flush_range(&rga_service.cmd_buff[0], &rga_service.cmd_buff[28]);\r
 629             outer_flush_range(virt_to_phys(&rga_service.cmd_buff[0]),virt_to_phys(&rga_service.cmd_buff[28]));\r
 630 \r
 631             #if defined(CONFIG_ARCH_RK30)\r
 632             rga_soft_reset();\r
 633             #endif\r
 634 \r
 635             rga_write(0x0, RGA_SYS_CTRL);\r
 636             rga_write(0, RGA_MMU_CTRL);\r
 637 \r
 638             /* CMD buff */\r
 639             rga_write(virt_to_phys(rga_service.cmd_buff), RGA_CMD_ADDR);\r
 640 \r
 641 #if RGA_TEST\r
 642             {\r
 643                 //printk(KERN_DEBUG "cmd_addr = %.8x\n", rga_read(RGA_CMD_ADDR));\r
 644                 uint32_t i;\r
 645                 uint32_t *p;\r
 646                 p = rga_service.cmd_buff;\r
 647                 printk("CMD_REG\n");\r
 648                 for (i=0; i<7; i++)\r
 649                     printk("%.8x %.8x %.8x %.8x\n", p[0 + i*4], p[1+i*4], p[2 + i*4], p[3 + i*4]);\r
 650             }\r
 651 #endif\r
 652 \r
 653             /* master mode */\r
 654             rga_write((0x1<<2)|(0x1<<3), RGA_SYS_CTRL);\r
 655 \r
 656             /* All CMD finish int */\r
 657             rga_write(rga_read(RGA_INT)|(0x1<<10)|(0x1<<8), RGA_INT);\r
 658 \r
 659             #if RGA_TEST_TIME\r
 660             rga_start = ktime_get();\r
 661             #endif\r
 662 \r
 663             /* Start proc */\r
 664             atomic_set(&reg->session->done, 0);\r
 665             rga_write(0x1, RGA_CMD_CTRL);\r
 666 \r
 667 #if RGA_TEST\r
 668             {\r
 669                 uint32_t i;\r
 670                 printk("CMD_READ_BACK_REG\n");\r
 671                 for (i=0; i<7; i++)\r
 672                     printk("%.8x %.8x %.8x %.8x\n", rga_read(0x100 + i*16 + 0),\r
 673                             rga_read(0x100 + i*16 + 4), rga_read(0x100 + i*16 + 8), rga_read(0x100 + i*16 + 12));\r
 674             }\r
 675 #endif\r
 676         }\r
 677     }\r
 678 }\r
 679 \r
 680 \r
 681 \r
 682 \r
 683 /* Caller must hold rga_service.lock */\r
 684 static void rga_del_running_list(void)\r
 685 {\r
 686     struct rga_reg *reg;\r
 687 \r
 688     while(!list_empty(&rga_service.running))\r
 689     {\r
 690         reg = list_entry(rga_service.running.next, struct rga_reg, status_link);\r
 691 \r
 692         if(reg->MMU_base != NULL)\r
 693         {\r
 694             kfree(reg->MMU_base);\r
 695             reg->MMU_base = NULL;\r
 696         }\r
 697         atomic_sub(1, &reg->session->task_running);\r
 698         atomic_sub(1, &rga_service.total_running);\r
 699 \r
 700         if(list_empty(&reg->session->waiting))\r
 701         {\r
 702             atomic_set(&reg->session->done, 1);\r
 703             wake_up(&reg->session->wait);\r
 704         }\r
 705 \r
 706         rga_reg_deinit(reg);\r
 707     }\r
 708 }\r
 709 \r
 710 /* Caller must hold rga_service.lock */\r
 711 static void rga_del_running_list_timeout(void)\r
 712 {\r
 713     struct rga_reg *reg;\r
 714 \r
 715     while(!list_empty(&rga_service.running))\r
 716     {\r
 717         reg = list_entry(rga_service.running.next, struct rga_reg, status_link);\r
 718 \r
 719         if(reg->MMU_base != NULL)\r
 720         {\r
 721             kfree(reg->MMU_base);\r
 722         }\r
 723 \r
 724         atomic_sub(1, &reg->session->task_running);\r
 725         atomic_sub(1, &rga_service.total_running);\r
 726 \r
 727         //printk("RGA soft reset for timeout process\n");\r
 728         rga_soft_reset();\r
 729 \r
 730 \r
 731         #if 0\r
 732         printk("RGA_INT is %.8x\n", rga_read(RGA_INT));\r
 733         printk("reg->session->task_running = %d\n", atomic_read(&reg->session->task_running));\r
 734         printk("rga_service.total_running  = %d\n", atomic_read(&rga_service.total_running));\r
 735 \r
 736         print_info(&reg->req);\r
 737 \r
 738         {\r
 739             uint32_t *p, i;\r
 740             p = reg->cmd_reg;\r
 741             for (i=0; i<7; i++)\r
 742                 printk("%.8x %.8x %.8x %.8x\n", p[0 + i*4], p[1+i*4], p[2 + i*4], p[3 + i*4]);\r
 743 \r
 744         }\r
 745         #endif\r
 746 \r
 747         if(list_empty(&reg->session->waiting))\r
 748         {\r
 749             atomic_set(&reg->session->done, 1);\r
 750             wake_up(&reg->session->wait);\r
 751         }\r
 752 \r
 753         rga_reg_deinit(reg);\r
 754     }\r
 755 }\r
 756 \r
 757 \r
 758 static void rga_mem_addr_sel(struct rga_req *req)\r
 759 {\r
 760     switch(req->src.format)\r
 761     {\r
 762         case RK_FORMAT_YCbCr_422_SP:\r
 763             break;\r
 764         case RK_FORMAT_YCbCr_422_P :\r
 765             break;\r
 766         case RK_FORMAT_YCbCr_420_SP :\r
 767             if((req->src.yrgb_addr > 0xc0000000) && (req->src.uv_addr > 0xc0000000)\r
 768                 && (req->dst.yrgb_addr > 0xc0000000))\r
 769             {\r
 770                 req->src.yrgb_addr = req->src.yrgb_addr - 0x60000000;\r
 771                 req->src.uv_addr = req->src.uv_addr - 0x60000000;\r
 772                 req->dst.yrgb_addr = req->dst.yrgb_addr - 0x60000000;\r
 773                 req->mmu_info.mmu_en = 0;\r
 774                 req->mmu_info.mmu_flag &= 0xfffe;\r
 775             }\r
 776             break;\r
 777         case RK_FORMAT_YCbCr_420_P :\r
 778             break;\r
 779         case RK_FORMAT_YCrCb_422_SP :\r
 780             break;\r
 781         case RK_FORMAT_YCrCb_422_P :\r
 782             break;\r
 783         case RK_FORMAT_YCrCb_420_SP :\r
 784             break;\r
 785         case RK_FORMAT_YCrCb_420_P :\r
 786             break;\r
 787         default :\r
 788             break;\r
 789     }\r
 790 \r
 791 }\r
 792 \r
 793 \r
 794 static int rga_convert_dma_buf(struct rga_req *req)\r
 795 {\r
 796         struct ion_handle *hdl;\r
 797         ion_phys_addr_t phy_addr;\r
 798         size_t len;\r
 799 \r
 800     if(req->src.yrgb_addr) {\r
 801         hdl = ion_import_dma_buf(drvdata->ion_client, req->src.yrgb_addr);\r
 802             ion_phys(drvdata->ion_client, hdl, &phy_addr, &len);\r
 803         req->src.yrgb_addr = phy_addr;\r
 804         req->src.uv_addr = req->src.yrgb_addr + (req->src.vir_w * req->src.vir_h);\r
 805     }\r
 806     else {\r
 807         req->src.yrgb_addr = req->src.uv_addr;\r
 808         req->src.uv_addr = req->src.yrgb_addr + (req->src.vir_w * req->src.vir_h);\r
 809     }\r
 810 \r
 811     if(req->dst.yrgb_addr) {\r
 812         hdl = ion_import_dma_buf(drvdata->ion_client, req->dst.yrgb_addr);\r
 813             ion_phys(drvdata->ion_client, hdl, &phy_addr, &len);\r
 814         req->dst.yrgb_addr = phy_addr;\r
 815         req->dst.uv_addr = req->dst.yrgb_addr + (req->dst.vir_w * req->dst.vir_h);\r
 816     }\r
 817     else {\r
 818         req->dst.yrgb_addr = req->dst.uv_addr;\r
 819         req->dst.uv_addr = req->dst.yrgb_addr + (req->src.vir_w * req->src.vir_h);\r
 820     }\r
 821 \r
 822     return 0;\r
 823 }\r
 824 \r
 825 static int rga_blit(rga_session *session, struct rga_req *req)\r
 826 {\r
 827     int ret = -1;\r
 828     int num = 0;\r
 829     struct rga_reg *reg;\r
 830     struct rga_req req2;\r
 831 \r
 832     uint32_t saw, sah, daw, dah;\r
 833 \r
 834     saw = req->src.act_w;\r
 835     sah = req->src.act_h;\r
 836     daw = req->dst.act_w;\r
 837     dah = req->dst.act_h;\r
 838 \r
 839     if(rga_convert_dma_buf(req)) {\r
 840         printk("RGA : DMA buf copy error\n");\r
 841         return -EFAULT;\r
 842     }\r
 843 \r
 844     #if RGA_TEST\r
 845     print_info(req);\r
 846     #endif\r
 847 \r
 848     do {\r
 849         if((req->render_mode == bitblt_mode) && (((saw>>1) >= daw) || ((sah>>1) >= dah))) {\r
 850             /* generate 2 cmd for pre scale */\r
 851 \r
 852             ret = rga_check_param(req);\r
 853                 if(ret == -EINVAL) {\r
 854                 printk("req 0 argument is inval\n");\r
 855                 break;\r
 856                 }\r
 857 \r
 858             ret = RGA_gen_two_pro(req, &req2);\r
 859             if(ret == -EINVAL) {\r
 860                 break;\r
 861             }\r
 862 \r
 863             ret = rga_check_param(req);\r
 864                 if(ret == -EINVAL) {\r
 865                 printk("req 1 argument is inval\n");\r
 866                 break;\r
 867                 }\r
 868 \r
 869             ret = rga_check_param(&req2);\r
 870                 if(ret == -EINVAL) {\r
 871                 printk("req 2 argument is inval\n");\r
 872                 break;\r
 873                 }\r
 874 \r
 875             reg = rga_reg_init_2(session, req, &req2);\r
 876             if(reg == NULL) {\r
 877                 break;\r
 878             }\r
 879             num = 2;\r
 880 \r
 881         }\r
 882         else {\r
 883             /* check value if legal */\r
 884             ret = rga_check_param(req);\r
 885                 if(ret == -EINVAL) {\r
 886                 printk("req argument is inval\n");\r
 887                 break;\r
 888                 }\r
 889 \r
 890             if(req->render_mode == bitblt_mode)\r
 891                 rga_mem_addr_sel(req);\r
 892 \r
 893             reg = rga_reg_init(session, req);\r
 894             if(reg == NULL) {\r
 895                 break;\r
 896             }\r
 897             num = 1;\r
 898         }\r
 899 \r
 900         mutex_lock(&rga_service.lock);\r
 901         atomic_add(num, &rga_service.total_running);\r
 902         rga_try_set_reg();\r
 903         mutex_unlock(&rga_service.lock);\r
 904 \r
 905         return 0;\r
 906     }\r
 907     while(0);\r
 908 \r
 909     return -EFAULT;\r
 910 }\r
 911 \r
 912 static int rga_blit_async(rga_session *session, struct rga_req *req)\r
 913 {\r
 914         int ret = -1;\r
 915 \r
 916     #if RGA_TEST\r
 917     printk("*** rga_blit_async proc ***\n");\r
 918     #endif\r
 919 \r
 920     atomic_set(&session->done, 0);\r
 921     ret = rga_blit(session, req);\r
 922     return ret;\r
 923 }\r
 924 \r
 925 static int rga_blit_sync(rga_session *session, struct rga_req *req)\r
 926 {\r
 927     int ret = -1;\r
 928     int ret_timeout = 0;\r
 929 \r
 930     #if RGA_TEST\r
 931     printk("*** rga_blit_sync proc ***\n");\r
 932     #endif\r
 933 \r
 934     atomic_set(&session->done, 0);\r
 935     ret = rga_blit(session, req);\r
 936     if(ret < 0)\r
 937         return ret;\r
 938 \r
 939     ret_timeout = wait_event_timeout(session->wait, atomic_read(&session->done), RGA_TIMEOUT_DELAY);\r
 940 \r
 941     if (unlikely(ret_timeout< 0)) {\r
 942         mutex_lock(&rga_service.lock);\r
 943         rga_del_running_list();\r
 944         mutex_unlock(&rga_service.lock);\r
 945         ret = ret_timeout;\r
 946         }\r
 947     else if (0 == ret_timeout) {\r
 948         mutex_lock(&rga_service.lock);\r
 949         rga_del_running_list_timeout();\r
 950         rga_try_set_reg();\r
 951         mutex_unlock(&rga_service.lock);\r
 952                 ret = -ETIMEDOUT;\r
 953         }\r
 954 \r
 955     #if RGA_TEST_TIME\r
 956     rga_end = ktime_get();\r
 957     rga_end = ktime_sub(rga_end, rga_start);\r
 958     printk("sync one cmd end time %d\n", (int)ktime_to_us(rga_end));\r
 959     #endif\r
 960 \r
 961     return ret;\r
 962 }\r
 963 \r
 964 \r
 965 static long rga_ioctl(struct file *file, uint32_t cmd, unsigned long arg)\r
 966 {\r
 967     struct rga_req req;\r
 968         int ret = 0;\r
 969     rga_session *session;\r
 970 \r
 971     mutex_lock(&rga_service.mutex);\r
 972 \r
 973     session = (rga_session *)file->private_data;\r
 974 \r
 975         if (NULL == session) {\r
 976         printk("%s [%d] rga thread session is null\n",__FUNCTION__,__LINE__);\r
 977         mutex_unlock(&rga_service.mutex);\r
 978                 return -EINVAL;\r
 979         }\r
 980 \r
 981     memset(&req, 0x0, sizeof(req));\r
 982 \r
 983         switch (cmd) {\r
 984                 case RGA_BLIT_SYNC:\r
 985                 if (unlikely(copy_from_user(&req, (struct rga_req*)arg, sizeof(struct rga_req))))\r
 986             {\r
 987                         ERR("copy_from_user failed\n");\r
 988                         ret = -EFAULT;\r
 989                 break;\r
 990                 }\r
 991             ret = rga_blit_sync(session, &req);\r
 992             break;\r
 993                 case RGA_BLIT_ASYNC:\r
 994                 if (unlikely(copy_from_user(&req, (struct rga_req*)arg, sizeof(struct rga_req))))\r
 995             {\r
 996                         ERR("copy_from_user failed\n");\r
 997                         ret = -EFAULT;\r
 998                 break;\r
 999                 }\r
1000 \r
1001             if((atomic_read(&rga_service.total_running) > 16))\r
1002             {\r
1003                             ret = rga_blit_sync(session, &req);\r
1004             }\r
1005             else\r
1006             {\r
1007                 ret = rga_blit_async(session, &req);\r
1008             }\r
1009                         break;\r
1010                 case RGA_FLUSH:\r
1011                         ret = rga_flush(session, arg);\r
1012                         break;\r
1013         case RGA_GET_RESULT:\r
1014             ret = rga_get_result(session, arg);\r
1015             break;\r
1016         case RGA_GET_VERSION:\r
1017             ret = copy_to_user((void *)arg, RGA_VERSION, sizeof(RGA_VERSION));\r
1018             //ret = 0;\r
1019             break;\r
1020                 default:\r
1021                         ERR("unknown ioctl cmd!\n");\r
1022                         ret = -EINVAL;\r
1023                         break;\r
1024         }\r
1025 \r
1026         mutex_unlock(&rga_service.mutex);\r
1027 \r
1028         return ret;\r
1029 }\r
1030 \r
1031 \r
1032 long rga_ioctl_kernel(struct rga_req *req)\r
1033 {\r
1034         int ret = 0;\r
1035     rga_session *session;\r
1036 \r
1037     mutex_lock(&rga_service.mutex);\r
1038 \r
1039     session = &rga_session_global;\r
1040 \r
1041         if (NULL == session) {\r
1042         printk("%s [%d] rga thread session is null\n",__FUNCTION__,__LINE__);\r
1043         mutex_unlock(&rga_service.mutex);\r
1044                 return -EINVAL;\r
1045         }\r
1046 \r
1047         switch (RGA_BLIT_SYNC) {\r
1048                 case RGA_BLIT_SYNC:\r
1049             ret = rga_blit_sync(session, req);\r
1050             break;\r
1051                 case RGA_BLIT_ASYNC:\r
1052                         break;\r
1053                 case RGA_FLUSH:\r
1054                         break;\r
1055         case RGA_GET_RESULT:\r
1056             break;\r
1057         case RGA_GET_VERSION:\r
1058             //ret = 0;\r
1059             break;\r
1060                 default:\r
1061                         ERR("unknown ioctl cmd!\n");\r
1062                         ret = -EINVAL;\r
1063                         break;\r
1064         }\r
1065 \r
1066         mutex_unlock(&rga_service.mutex);\r
1067 \r
1068         return ret;\r
1069 }\r
1070 \r
1071 \r
1072 static int rga_open(struct inode *inode, struct file *file)\r
1073 {\r
1074     rga_session *session = kzalloc(sizeof(rga_session), GFP_KERNEL);\r
1075         if (NULL == session) {\r
1076                 pr_err("unable to allocate memory for rga_session.");\r
1077                 return -ENOMEM;\r
1078         }\r
1079 \r
1080         session->pid = current->pid;\r
1081     //printk(KERN_DEBUG  "+");\r
1082 \r
1083         INIT_LIST_HEAD(&session->waiting);\r
1084         INIT_LIST_HEAD(&session->running);\r
1085         INIT_LIST_HEAD(&session->list_session);\r
1086         init_waitqueue_head(&session->wait);\r
1087         mutex_lock(&rga_service.lock);\r
1088         list_add_tail(&session->list_session, &rga_service.session);\r
1089         mutex_unlock(&rga_service.lock);\r
1090         atomic_set(&session->task_running, 0);\r
1091     atomic_set(&session->num_done, 0);\r
1092 \r
1093         file->private_data = (void *)session;\r
1094 \r
1095     //DBG("*** rga dev opened by pid %d *** \n", session->pid);\r
1096         return nonseekable_open(inode, file);\r
1097 \r
1098 }\r
1099 \r
1100 static int rga_release(struct inode *inode, struct file *file)\r
1101 {\r
1102     int task_running;\r
1103         rga_session *session = (rga_session *)file->private_data;\r
1104         if (NULL == session)\r
1105                 return -EINVAL;\r
1106     //printk(KERN_DEBUG  "-");\r
1107         task_running = atomic_read(&session->task_running);\r
1108 \r
1109     if (task_running)\r
1110     {\r
1111                 pr_err("rga_service session %d still has %d task running when closing\n", session->pid, task_running);\r
1112                 msleep(100);\r
1113         /*Í¬²½*/\r
1114         }\r
1115 \r
1116         wake_up(&session->wait);\r
1117         mutex_lock(&rga_service.lock);\r
1118         list_del(&session->list_session);\r
1119         rga_service_session_clear(session);\r
1120         kfree(session);\r
1121         mutex_unlock(&rga_service.lock);\r
1122 \r
1123     //DBG("*** rga dev close ***\n");\r
1124         return 0;\r
1125 }\r
1126 \r
1127 static irqreturn_t rga_irq_thread(int irq, void *dev_id)\r
1128 {\r
1129         mutex_lock(&rga_service.lock);\r
1130         if (rga_service.enable) {\r
1131                 rga_del_running_list();\r
1132                 rga_try_set_reg();\r
1133         }\r
1134         mutex_unlock(&rga_service.lock);\r
1135 \r
1136         return IRQ_HANDLED;\r
1137 }\r
1138 \r
1139 static irqreturn_t rga_irq(int irq,  void *dev_id)\r
1140 {\r
1141         /*clear INT */\r
1142         rga_write(rga_read(RGA_INT) | (0x1<<6) | (0x1<<7) | (0x1<<4), RGA_INT);\r
1143 \r
1144         return IRQ_WAKE_THREAD;\r
1145 }\r
1146 \r
1147 struct file_operations rga_fops = {\r
1148         .owner          = THIS_MODULE,\r
1149         .open           = rga_open,\r
1150         .release        = rga_release,\r
1151         .unlocked_ioctl         = rga_ioctl,\r
1152 };\r
1153 \r
1154 static struct miscdevice rga_dev ={\r
1155     .minor = RGA_MAJOR,\r
1156     .name  = "rga",\r
1157     .fops  = &rga_fops,\r
1158 };\r
1159 \r
1160 \r
1161 #if defined(CONFIG_OF)\r
1162 static const struct of_device_id rockchip_rga_dt_ids[] = {\r
1163         { .compatible = "rockchip,rga", },\r
1164         {},\r
1165 };\r
1166 #endif\r
1167 \r
1168 static int rga_drv_probe(struct platform_device *pdev)\r
1169 {\r
1170         struct rga_drvdata *data;\r
1171     struct resource *res;\r
1172     //struct device_node *np = pdev->dev.of_node;\r
1173         int ret = 0;\r
1174 \r
1175         mutex_init(&rga_service.lock);\r
1176         mutex_init(&rga_service.mutex);\r
1177         atomic_set(&rga_service.total_running, 0);\r
1178         atomic_set(&rga_service.src_format_swt, 0);\r
1179         rga_service.last_prc_src_format = 1; /* default is yuv first*/\r
1180         rga_service.enable = false;\r
1181 \r
1182         data = devm_kzalloc(&pdev->dev, sizeof(struct rga_drvdata), GFP_KERNEL);\r
1183         if(! data) {\r
1184                 ERR("failed to allocate driver data.\n");\r
1185                 return -ENOMEM;\r
1186         }\r
1187 \r
1188         INIT_DELAYED_WORK(&data->power_off_work, rga_power_off_work);\r
1189         wake_lock_init(&data->wake_lock, WAKE_LOCK_SUSPEND, "rga");\r
1190 \r
1191         //data->pd_rga = devm_clk_get(&pdev->dev, "pd_rga");\r
1192     data->aclk_rga = devm_clk_get(&pdev->dev, "aclk_rga");\r
1193     data->hclk_rga = devm_clk_get(&pdev->dev, "hclk_rga");\r
1194 \r
1195     /* map the registers */\r
1196         res = platform_get_resource(pdev, IORESOURCE_MEM, 0);\r
1197         data->rga_base = devm_ioremap_resource(&pdev->dev, res);\r
1198         if (!data->rga_base) {\r
1199                 ERR("rga ioremap failed\n");\r
1200                 ret = -ENOENT;\r
1201                 goto err_ioremap;\r
1202         }\r
1203 \r
1204         /* get the IRQ */\r
1205         data->irq = ret = platform_get_irq(pdev, 0);\r
1206         if (ret <= 0) {\r
1207                 ERR("failed to get rga irq resource (%d).\n", data->irq);\r
1208                 ret = data->irq;\r
1209                 goto err_irq;\r
1210         }\r
1211 \r
1212         /* request the IRQ */\r
1213         //ret = request_threaded_irq(data->irq, rga_irq, rga_irq_thread, 0, "rga", pdev);\r
1214     ret = devm_request_threaded_irq(&pdev->dev, data->irq, rga_irq, rga_irq_thread, 0, "rga", data);\r
1215         if (ret)\r
1216         {\r
1217                 ERR("rga request_irq failed (%d).\n", ret);\r
1218                 goto err_irq;\r
1219         }\r
1220 \r
1221         platform_set_drvdata(pdev, data);\r
1222         drvdata = data;\r
1223 \r
1224     #if defined(CONFIG_ION_ROCKCHIP)\r
1225         data->ion_client = rockchip_ion_client_create("rga");\r
1226         if (IS_ERR(data->ion_client)) {\r
1227                 dev_err(&pdev->dev, "failed to create ion client for rga");\r
1228                 return PTR_ERR(data->ion_client);\r
1229         } else {
1230                 dev_info(&pdev->dev, "rga ion client create success!\n");\r
1231         }
1232     #endif\r
1233 \r
1234         ret = misc_register(&rga_dev);\r
1235         if(ret)\r
1236         {\r
1237                 ERR("cannot register miscdev (%d)\n", ret);\r
1238                 goto err_misc_register;\r
1239         }\r
1240 \r
1241         pr_info("Driver loaded succesfully\n");\r
1242 \r
1243         return 0;\r
1244 \r
1245 err_misc_register:\r
1246         free_irq(data->irq, pdev);\r
1247 err_irq:\r
1248         iounmap(data->rga_base);\r
1249 err_ioremap:\r
1250         wake_lock_destroy(&data->wake_lock);\r
1251         //kfree(data);\r
1252 \r
1253         return ret;\r
1254 }\r
1255 \r
1256 static int rga_drv_remove(struct platform_device *pdev)\r
1257 {\r
1258         struct rga_drvdata *data = platform_get_drvdata(pdev);\r
1259         DBG("%s [%d]\n",__FUNCTION__,__LINE__);\r
1260 \r
1261         wake_lock_destroy(&data->wake_lock);\r
1262         misc_deregister(&(data->miscdev));\r
1263         free_irq(data->irq, &data->miscdev);\r
1264         iounmap((void __iomem *)(data->rga_base));\r
1265 \r
1266         //clk_put(data->pd_rga);\r
1267         devm_clk_put(&pdev->dev, data->aclk_rga);\r
1268         devm_clk_put(&pdev->dev, data->hclk_rga);\r
1269 \r
1270         //kfree(data);\r
1271         return 0;\r
1272 }\r
1273 \r
1274 static struct platform_driver rga_driver = {\r
1275         .probe          = rga_drv_probe,\r
1276         .remove         = rga_drv_remove,\r
1277         .driver         = {\r
1278                 .owner  = THIS_MODULE,\r
1279                 .name   = "rga",\r
1280                 .of_match_table = of_match_ptr(rockchip_rga_dt_ids),\r
1281         },\r
1282 };\r
1283 \r
1284 \r
1285 void rga_test_0(void);\r
1286 void rga_test_1(void);\r
1287 \r
1288 \r
1289 static int __init rga_init(void)\r
1290 {\r
1291         int ret;\r
1292     uint32_t *mmu_buf;\r
1293     uint32_t i;\r
1294     uint32_t *buf_p;\r
1295 \r
1296     /* malloc pre scale mid buf mmu table */\r
1297     mmu_buf = kzalloc(1024*8, GFP_KERNEL);\r
1298     if(mmu_buf == NULL)\r
1299     {\r
1300         printk(KERN_ERR "RGA get Pre Scale buff failed. \n");\r
1301         return -1;\r
1302     }\r
1303 \r
1304     /* malloc 8 M buf */\r
1305     for(i=0; i<2048; i++)\r
1306     {\r
1307         buf_p = (uint32_t *)__get_free_page(GFP_KERNEL|__GFP_ZERO);\r
1308         if(buf_p == NULL)\r
1309         {\r
1310             printk(KERN_ERR "RGA init pre scale buf falied\n");\r
1311             return -ENOMEM;\r
1312         }\r
1313 \r
1314         mmu_buf[i] = virt_to_phys((void *)((uint32_t)buf_p));\r
1315     }\r
1316 \r
1317     rga_service.pre_scale_buf = (uint32_t *)mmu_buf;\r
1318 \r
1319         if ((ret = platform_driver_register(&rga_driver)) != 0)\r
1320         {\r
1321         printk(KERN_ERR "Platform device register failed (%d).\n", ret);\r
1322                         return ret;\r
1323         }\r
1324 \r
1325     {\r
1326         rga_session_global.pid = 0x0000ffff;\r
1327         INIT_LIST_HEAD(&rga_session_global.waiting);\r
1328         INIT_LIST_HEAD(&rga_session_global.running);\r
1329         INIT_LIST_HEAD(&rga_session_global.list_session);\r
1330 \r
1331         INIT_LIST_HEAD(&rga_service.waiting);\r
1332             INIT_LIST_HEAD(&rga_service.running);\r
1333             INIT_LIST_HEAD(&rga_service.done);\r
1334             INIT_LIST_HEAD(&rga_service.session);\r
1335 \r
1336         init_waitqueue_head(&rga_session_global.wait);\r
1337         //mutex_lock(&rga_service.lock);\r
1338         list_add_tail(&rga_session_global.list_session, &rga_service.session);\r
1339         //mutex_unlock(&rga_service.lock);\r
1340         atomic_set(&rga_session_global.task_running, 0);\r
1341         atomic_set(&rga_session_global.num_done, 0);\r
1342     }\r
1343 \r
1344 \r
1345 \r
1346     #if RGA_TEST_CASE\r
1347     rga_test_0();\r
1348     #endif\r
1349 \r
1350         INFO("Module initialized.\n");\r
1351 \r
1352         return 0;\r
1353 }\r
1354 \r
1355 static void __exit rga_exit(void)\r
1356 {\r
1357     uint32_t i;\r
1358 \r
1359     rga_power_off();\r
1360 \r
1361     for(i=0; i<2048; i++)\r
1362     {\r
1363         if((uint32_t *)rga_service.pre_scale_buf[i] != NULL)\r
1364         {\r
1365             __free_page((void *)rga_service.pre_scale_buf[i]);\r
1366         }\r
1367     }\r
1368 \r
1369     if(rga_service.pre_scale_buf != NULL) {\r
1370         kfree((uint8_t *)rga_service.pre_scale_buf);\r
1371     }\r
1372         platform_driver_unregister(&rga_driver);\r
1373 }\r
1374 \r
1375 \r
1376 #if RGA_TEST_CASE\r
1377 \r
1378 extern struct fb_info * rk_get_fb(int fb_id);\r
1379 EXPORT_SYMBOL(rk_get_fb);\r
1380 \r
1381 extern void rk_direct_fb_show(struct fb_info * fbi);\r
1382 EXPORT_SYMBOL(rk_direct_fb_show);\r
1383 \r
1384 unsigned int src_buf[1920*1080];\r
1385 unsigned int dst_buf[1920*1080];\r
1386 //unsigned int tmp_buf[1920*1080 * 2];\r
1387 \r
1388 void rga_test_0(void)\r
1389 {\r
1390     struct rga_req req;\r
1391     rga_session session;\r
1392     unsigned int *src, *dst;\r
1393     uint32_t i, j;\r
1394     uint8_t *p;\r
1395     uint8_t t;\r
1396     uint32_t *dst0, *dst1, *dst2;\r
1397 \r
1398     struct fb_info *fb;\r
1399 \r
1400     session.pid = current->pid;\r
1401         INIT_LIST_HEAD(&session.waiting);\r
1402         INIT_LIST_HEAD(&session.running);\r
1403         INIT_LIST_HEAD(&session.list_session);\r
1404         init_waitqueue_head(&session.wait);\r
1405         /* no need to protect */\r
1406         list_add_tail(&session.list_session, &rga_service.session);\r
1407         atomic_set(&session.task_running, 0);\r
1408     atomic_set(&session.num_done, 0);\r
1409         //file->private_data = (void *)session;\r
1410 \r
1411     fb = rk_get_fb(0);\r
1412 \r
1413     memset(&req, 0, sizeof(struct rga_req));\r
1414     src = src_buf;\r
1415     dst = dst_buf;\r
1416 \r
1417     memset(src_buf, 0x80, 1024*600*4);\r
1418 \r
1419     dmac_flush_range(&src_buf[0], &src_buf[1024*600]);\r
1420     outer_flush_range(virt_to_phys(&src_buf[0]),virt_to_phys(&src_buf[1024*600]));\r
1421 \r
1422 \r
1423     #if 0\r
1424     memset(src_buf, 0x80, 800*480*4);\r
1425     memset(dst_buf, 0xcc, 800*480*4);\r
1426 \r
1427     dmac_flush_range(&dst_buf[0], &dst_buf[800*480]);\r
1428     outer_flush_range(virt_to_phys(&dst_buf[0]),virt_to_phys(&dst_buf[800*480]));\r
1429     #endif\r
1430 \r
1431     dst0 = &dst_buf[0];\r
1432     //dst1 = &dst_buf[1280*800*4];\r
1433     //dst2 = &dst_buf[1280*800*4*2];\r
1434 \r
1435     i = j = 0;\r
1436 \r
1437     printk("\n********************************\n");\r
1438     printk("************ RGA_TEST ************\n");\r
1439     printk("********************************\n\n");\r
1440 \r
1441     req.src.act_w = 1024;\r
1442     req.src.act_h = 600;\r
1443 \r
1444     req.src.vir_w = 1024;\r
1445     req.src.vir_h = 600;\r
1446     req.src.yrgb_addr = (uint32_t)virt_to_phys(src);\r
1447     req.src.uv_addr = (uint32_t)(req.src.yrgb_addr + 1080*1920);\r
1448     req.src.v_addr = (uint32_t)virt_to_phys(src);\r
1449     req.src.format = RK_FORMAT_RGBA_8888;\r
1450 \r
1451     req.dst.act_w = 600;\r
1452     req.dst.act_h = 352;\r
1453 \r
1454     req.dst.vir_w = 1280;\r
1455     req.dst.vir_h = 800;\r
1456     req.dst.x_offset = 600;\r
1457     req.dst.y_offset = 0;\r
1458 \r
1459     dst = dst0;\r
1460 \r
1461     req.dst.yrgb_addr = ((uint32_t)virt_to_phys(dst));\r
1462 \r
1463     //req.dst.format = RK_FORMAT_RGB_565;\r
1464 \r
1465     req.clip.xmin = 0;\r
1466     req.clip.xmax = 1279;\r
1467     req.clip.ymin = 0;\r
1468     req.clip.ymax = 799;\r
1469 \r
1470     //req.render_mode = color_fill_mode;\r
1471     //req.fg_color = 0x80ffffff;\r
1472 \r
1473     req.rotate_mode = 1;\r
1474     //req.scale_mode = 2;\r
1475 \r
1476     //req.alpha_rop_flag = 0;\r
1477     //req.alpha_rop_mode = 0x19;\r
1478     //req.PD_mode = 3;\r
1479 \r
1480     req.sina = 65536;\r
1481     req.cosa = 0;\r
1482 \r
1483     //req.mmu_info.mmu_flag = 0x21;\r
1484     //req.mmu_info.mmu_en = 1;\r
1485 \r
1486     //printk("src = %.8x\n", req.src.yrgb_addr);\r
1487     //printk("src = %.8x\n", req.src.uv_addr);\r
1488     //printk("dst = %.8x\n", req.dst.yrgb_addr);\r
1489 \r
1490 \r
1491     rga_blit_sync(&session, &req);\r
1492 \r
1493     #if 1\r
1494     fb->var.bits_per_pixel = 32;\r
1495 \r
1496     fb->var.xres = 1280;\r
1497     fb->var.yres = 800;\r
1498 \r
1499     fb->var.red.length = 8;\r
1500     fb->var.red.offset = 0;\r
1501     fb->var.red.msb_right = 0;\r
1502 \r
1503     fb->var.green.length = 8;\r
1504     fb->var.green.offset = 8;\r
1505     fb->var.green.msb_right = 0;\r
1506 \r
1507     fb->var.blue.length = 8;\r
1508 \r
1509     fb->var.blue.offset = 16;\r
1510     fb->var.blue.msb_right = 0;\r
1511 \r
1512     fb->var.transp.length = 8;\r
1513     fb->var.transp.offset = 24;\r
1514     fb->var.transp.msb_right = 0;\r
1515 \r
1516     fb->var.nonstd &= (~0xff);\r
1517     fb->var.nonstd |= 1;\r
1518 \r
1519     fb->fix.smem_start = virt_to_phys(dst);\r
1520 \r
1521     rk_direct_fb_show(fb);\r
1522     #endif\r
1523 \r
1524 }\r
1525 \r
1526 #endif\r
1527 module_init(rga_init);\r
1528 module_exit(rga_exit);\r
1529 \r
1530 /* Module information */\r
1531 MODULE_AUTHOR("zsq@rock-chips.com");\r
1532 MODULE_DESCRIPTION("Driver for rga device");\r
1533 MODULE_LICENSE("GPL");\r