drivers/video/rockchip/rga/rga_drv.c

   1 /*\r
   2  * Copyright (C) 2012 ROCKCHIP, Inc.\r
   3  *\r
   4  * This software is licensed under the terms of the GNU General Public\r
   5  * License version 2, as published by the Free Software Foundation, and\r
   6  * may be copied, distributed, and modified under those terms.\r
   7  *\r
   8  * This program is distributed in the hope that it will be useful,\r
   9  * but WITHOUT ANY WARRANTY; without even the implied warranty of\r
  10  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the\r
  11  * GNU General Public License for more details.\r
  12  *\r
  13  */\r
  14 \r
  15 #define pr_fmt(fmt) "rga: " fmt\r
  16 #include <linux/kernel.h>\r
  17 #include <linux/init.h>\r
  18 #include <linux/module.h>\r
  19 #include <linux/platform_device.h>\r
  20 #include <linux/sched.h>\r
  21 #include <linux/mutex.h>\r
  22 #include <linux/err.h>\r
  23 #include <linux/clk.h>\r
  24 #include <asm/delay.h>\r
  25 #include <linux/dma-mapping.h>\r
  26 #include <linux/delay.h>\r
  27 #include <asm/io.h>\r
  28 #include <linux/irq.h>\r
  29 #include <linux/interrupt.h>\r
  30 //#include <mach/io.h>\r
  31 //#include <mach/irqs.h>\r
  32 #include <linux/fs.h>\r
  33 #include <asm/uaccess.h>\r
  34 #include <linux/miscdevice.h>\r
  35 #include <linux/poll.h>\r
  36 #include <linux/delay.h>\r
  37 #include <linux/wait.h>\r
  38 #include <linux/syscalls.h>\r
  39 #include <linux/timer.h>\r
  40 #include <linux/time.h>\r
  41 #include <asm/cacheflush.h>\r
  42 #include <linux/slab.h>\r
  43 #include <linux/fb.h>\r
  44 #include <linux/wakelock.h>\r
  45 \r
  46 #if defined(CONFIG_ION_ROCKCHIP)\r
  47 #include <linux/rockchip_ion.h>\r
  48 #endif\r
  49 \r
  50 \r
  51 #include "rga.h"\r
  52 #include "rga_reg_info.h"\r
  53 #include "rga_mmu_info.h"\r
  54 #include "RGA_API.h"\r
  55 \r
  56 #define RGA_TEST_CASE 0\r
  57 \r
  58 #define RGA_TEST 0\r
  59 #define RGA_TEST_TIME 0\r
  60 #define RGA_TEST_FLUSH_TIME 0\r
  61 #define RGA_INFO_BUS_ERROR 1\r
  62 \r
  63 #define PRE_SCALE_BUF_SIZE  2048*1024*4\r
  64 \r
  65 #define RGA_POWER_OFF_DELAY     4*HZ /* 4s */\r
  66 #define RGA_TIMEOUT_DELAY       2*HZ /* 2s */\r
  67 \r
  68 #define RGA_MAJOR               255\r
  69 \r
  70 #if defined(CONFIG_ARCH_RK2928) || defined(CONFIG_ARCH_RK3026)\r
  71 #define RK30_RGA_PHYS           RK2928_RGA_PHYS\r
  72 #define RK30_RGA_SIZE           RK2928_RGA_SIZE\r
  73 #endif\r
  74 #define RGA_RESET_TIMEOUT       1000\r
  75 \r
  76 /* Driver information */\r
  77 #define DRIVER_DESC             "RGA Device Driver"\r
  78 #define DRIVER_NAME             "rga"\r
  79 \r
  80 #define RGA_VERSION   "1.003"\r
  81 \r
  82 ktime_t rga_start;\r
  83 ktime_t rga_end;\r
  84 \r
  85 rga_session rga_session_global;\r
  86 \r
  87 long (*rga_ioctl_kernel_p)(struct rga_req *);\r
  88 \r
  89 \r
  90 struct rga_drvdata {\r
  91         struct miscdevice miscdev;\r
  92         struct device dev;\r
  93         void *rga_base;\r
  94         int irq;\r
  95 \r
  96         struct delayed_work power_off_work;\r
  97         void (*rga_irq_callback)(int rga_retval);   //callback function used by aync call\r
  98         struct wake_lock wake_lock;\r
  99 \r
 100     struct clk *pd_rga;\r
 101         struct clk *aclk_rga;\r
 102     struct clk *hclk_rga;\r
 103 \r
 104     //#if defined(CONFIG_ION_ROCKCHIP)\r
 105     struct ion_client * ion_client;\r
 106     //#endif\r
 107 };\r
 108 \r
 109 static struct rga_drvdata *drvdata;\r
 110 rga_service_info rga_service;\r
 111 \r
 112 #if defined(CONFIG_ION_ROCKCHIP)\r
 113 extern struct ion_client *rockchip_ion_client_create(const char * name);\r
 114 #endif\r
 115 \r
 116 static int rga_blit_async(rga_session *session, struct rga_req *req);\r
 117 static void rga_del_running_list(void);\r
 118 static void rga_del_running_list_timeout(void);\r
 119 static void rga_try_set_reg(void);\r
 120 \r
 121 \r
 122 /* Logging */\r
 123 #define RGA_DEBUG 0\r
 124 #if RGA_DEBUG\r
 125 #define DBG(format, args...) printk(KERN_DEBUG "%s: " format, DRIVER_NAME, ## args)\r
 126 #define ERR(format, args...) printk(KERN_ERR "%s: " format, DRIVER_NAME, ## args)\r
 127 #define WARNING(format, args...) printk(KERN_WARN "%s: " format, DRIVER_NAME, ## args)\r
 128 #define INFO(format, args...) printk(KERN_INFO "%s: " format, DRIVER_NAME, ## args)\r
 129 #else\r
 130 #define DBG(format, args...)\r
 131 #define ERR(format, args...)\r
 132 #define WARNING(format, args...)\r
 133 #define INFO(format, args...)\r
 134 #endif\r
 135 \r
 136 #if RGA_TEST\r
 137 static void print_info(struct rga_req *req)\r
 138 {\r
 139     printk("src : yrgb_addr = %.8x, src.uv_addr = %.8x, src.v_addr = %.8x, format = %d\n",\r
 140             req->src.yrgb_addr, req->src.uv_addr, req->src.v_addr, req->src.format);\r
 141     printk("src : act_w = %d, act_h = %d, vir_w = %d, vir_h = %d\n",\r
 142         req->src.act_w, req->src.act_h, req->src.vir_w, req->src.vir_h);\r
 143     printk("src : x_off = %.8x y_off = %.8x\n", req->src.x_offset, req->src.y_offset);\r
 144 \r
 145     printk("dst : yrgb_addr = %.8x, dst.uv_addr = %.8x, dst.v_addr = %.8x, format = %d\n",\r
 146             req->dst.yrgb_addr, req->dst.uv_addr, req->dst.v_addr, req->dst.format);\r
 147     printk("dst : x_off = %.8x y_off = %.8x\n", req->dst.x_offset, req->dst.y_offset);\r
 148     printk("dst : act_w = %d, act_h = %d, vir_w = %d, vir_h = %d\n",\r
 149         req->dst.act_w, req->dst.act_h, req->dst.vir_w, req->dst.vir_h);\r
 150 \r
 151     printk("clip.xmin = %d, clip.xmax = %d. clip.ymin = %d, clip.ymax = %d\n",\r
 152         req->clip.xmin, req->clip.xmax, req->clip.ymin, req->clip.ymax);\r
 153 \r
 154     //printk("alpha_rop_flag = %.8x\n", req->alpha_rop_flag);\r
 155     //printk("alpha_rop_mode = %.8x\n", req->alpha_rop_mode);\r
 156     //printk("PD_mode = %.8x\n", req->PD_mode);\r
 157 }\r
 158 #endif\r
 159 \r
 160 \r
 161 static inline void rga_write(u32 b, u32 r)\r
 162 {\r
 163         __raw_writel(b, drvdata->rga_base + r);\r
 164 }\r
 165 \r
 166 static inline u32 rga_read(u32 r)\r
 167 {\r
 168         return __raw_readl(drvdata->rga_base + r);\r
 169 }\r
 170 \r
 171 static void rga_soft_reset(void)\r
 172 {\r
 173         u32 i;\r
 174         u32 reg;\r
 175 \r
 176         rga_write(1, RGA_SYS_CTRL); //RGA_SYS_CTRL\r
 177 \r
 178         for(i = 0; i < RGA_RESET_TIMEOUT; i++)\r
 179         {\r
 180                 reg = rga_read(RGA_SYS_CTRL) & 1; //RGA_SYS_CTRL\r
 181 \r
 182                 if(reg == 0)\r
 183                         break;\r
 184 \r
 185                 udelay(1);\r
 186         }\r
 187 \r
 188         if(i == RGA_RESET_TIMEOUT)\r
 189                 ERR("soft reset timeout.\n");\r
 190 }\r
 191 \r
 192 static void rga_dump(void)\r
 193 {\r
 194         int running;\r
 195     struct rga_reg *reg, *reg_tmp;\r
 196     rga_session *session, *session_tmp;\r
 197 \r
 198         running = atomic_read(&rga_service.total_running);\r
 199         printk("rga total_running %d\n", running);\r
 200 \r
 201     #if 0\r
 202 \r
 203     /* Dump waiting list info */\r
 204     if (!list_empty(&rga_service.waiting))\r
 205     {\r
 206         list_head       *next;\r
 207 \r
 208         next = &rga_service.waiting;\r
 209 \r
 210         printk("rga_service dump waiting list\n");\r
 211 \r
 212         do\r
 213         {\r
 214             reg = list_entry(next->next, struct rga_reg, status_link);\r
 215             running = atomic_read(&reg->session->task_running);\r
 216             num_done = atomic_read(&reg->session->num_done);\r
 217             printk("rga session pid %d, done %d, running %d\n", reg->session->pid, num_done, running);\r
 218             next = next->next;\r
 219         }\r
 220         while(!list_empty(next));\r
 221     }\r
 222 \r
 223     /* Dump running list info */\r
 224     if (!list_empty(&rga_service.running))\r
 225     {\r
 226         printk("rga_service dump running list\n");\r
 227 \r
 228         list_head       *next;\r
 229 \r
 230         next = &rga_service.running;\r
 231         do\r
 232         {\r
 233             reg = list_entry(next->next, struct rga_reg, status_link);\r
 234             running = atomic_read(&reg->session->task_running);\r
 235             num_done = atomic_read(&reg->session->num_done);\r
 236             printk("rga session pid %d, done %d, running %d:\n", reg->session->pid, num_done, running);\r
 237             next = next->next;\r
 238         }\r
 239         while(!list_empty(next));\r
 240     }\r
 241     #endif\r
 242 \r
 243         list_for_each_entry_safe(session, session_tmp, &rga_service.session, list_session)\r
 244     {\r
 245                 printk("session pid %d:\n", session->pid);\r
 246                 running = atomic_read(&session->task_running);\r
 247                 printk("task_running %d\n", running);\r
 248                 list_for_each_entry_safe(reg, reg_tmp, &session->waiting, session_link)\r
 249         {\r
 250                         printk("waiting register set 0x%.8x\n", (unsigned int)reg);\r
 251                 }\r
 252                 list_for_each_entry_safe(reg, reg_tmp, &session->running, session_link)\r
 253         {\r
 254                         printk("running register set 0x%.8x\n", (unsigned int)reg);\r
 255                 }\r
 256         }\r
 257 }\r
 258 \r
 259 static inline void rga_queue_power_off_work(void)\r
 260 {\r
 261         queue_delayed_work(system_nrt_wq, &drvdata->power_off_work, RGA_POWER_OFF_DELAY);\r
 262 }\r
 263 \r
 264 /* Caller must hold rga_service.lock */\r
 265 static void rga_power_on(void)\r
 266 {\r
 267         static ktime_t last;\r
 268         ktime_t now = ktime_get();\r
 269 \r
 270         if (ktime_to_ns(ktime_sub(now, last)) > NSEC_PER_SEC) {\r
 271                 cancel_delayed_work_sync(&drvdata->power_off_work);\r
 272                 rga_queue_power_off_work();\r
 273                 last = now;\r
 274         }\r
 275         if (rga_service.enable)\r
 276                 return;\r
 277 \r
 278         clk_prepare_enable(drvdata->aclk_rga);\r
 279         clk_prepare_enable(drvdata->hclk_rga);\r
 280         //clk_prepare_enable(drvdata->pd_rga);\r
 281         wake_lock(&drvdata->wake_lock);\r
 282         rga_service.enable = true;\r
 283 }\r
 284 \r
 285 /* Caller must hold rga_service.lock */\r
 286 static void rga_power_off(void)\r
 287 {\r
 288         int total_running;\r
 289 \r
 290         if (!rga_service.enable) {\r
 291                 return;\r
 292         }\r
 293 \r
 294         total_running = atomic_read(&rga_service.total_running);\r
 295         if (total_running) {\r
 296                 pr_err("power off when %d task running!!\n", total_running);\r
 297                 mdelay(50);\r
 298                 pr_err("delay 50 ms for running task\n");\r
 299                 rga_dump();\r
 300         }\r
 301 \r
 302         //clk_disable_unprepare(drvdata->pd_rga);\r
 303         clk_disable_unprepare(drvdata->aclk_rga);\r
 304         clk_disable_unprepare(drvdata->hclk_rga);\r
 305         wake_unlock(&drvdata->wake_lock);\r
 306         rga_service.enable = false;\r
 307 }\r
 308 \r
 309 static void rga_power_off_work(struct work_struct *work)\r
 310 {\r
 311         if (mutex_trylock(&rga_service.lock)) {\r
 312                 rga_power_off();\r
 313                 mutex_unlock(&rga_service.lock);\r
 314         } else {\r
 315                 /* Come back later if the device is busy... */\r
 316                 rga_queue_power_off_work();\r
 317         }\r
 318 }\r
 319 \r
 320 static int rga_flush(rga_session *session, unsigned long arg)\r
 321 {\r
 322     int ret = 0;\r
 323     int ret_timeout;\r
 324 \r
 325     #if RGA_TEST_FLUSH_TIME\r
 326     ktime_t start;\r
 327     ktime_t end;\r
 328     start = ktime_get();\r
 329     #endif\r
 330 \r
 331     ret_timeout = wait_event_timeout(session->wait, atomic_read(&session->done), RGA_TIMEOUT_DELAY);\r
 332 \r
 333         if (unlikely(ret_timeout < 0)) {\r
 334                 //pr_err("flush pid %d wait task ret %d\n", session->pid, ret);\r
 335         mutex_lock(&rga_service.lock);\r
 336         rga_del_running_list();\r
 337         mutex_unlock(&rga_service.lock);\r
 338         ret = ret_timeout;\r
 339         } else if (0 == ret_timeout) {\r
 340                 //pr_err("flush pid %d wait %d task done timeout\n", session->pid, atomic_read(&session->task_running));\r
 341         //printk("bus  = %.8x\n", rga_read(RGA_INT));\r
 342         mutex_lock(&rga_service.lock);\r
 343         rga_del_running_list_timeout();\r
 344         rga_try_set_reg();\r
 345         mutex_unlock(&rga_service.lock);\r
 346                 ret = -ETIMEDOUT;\r
 347         }\r
 348 \r
 349     #if RGA_TEST_FLUSH_TIME\r
 350     end = ktime_get();\r
 351     end = ktime_sub(end, start);\r
 352     printk("one flush wait time %d\n", (int)ktime_to_us(end));\r
 353     #endif\r
 354 \r
 355         return ret;\r
 356 }\r
 357 \r
 358 \r
 359 static int rga_get_result(rga_session *session, unsigned long arg)\r
 360 {\r
 361         //printk("rga_get_result %d\n",drvdata->rga_result);\r
 362 \r
 363     int ret = 0;\r
 364 \r
 365     int num_done;\r
 366 \r
 367     num_done = atomic_read(&session->num_done);\r
 368 \r
 369         if (unlikely(copy_to_user((void __user *)arg, &num_done, sizeof(int)))) {\r
 370                         printk("copy_to_user failed\n");\r
 371                         ret =  -EFAULT;\r
 372                 }\r
 373         return ret;\r
 374 }\r
 375 \r
 376 \r
 377 static int rga_check_param(const struct rga_req *req)\r
 378 {\r
 379         /*RGA can support up to 8192*8192 resolution in RGB format,but we limit the image size to 8191*8191 here*/\r
 380         //check src width and height\r
 381 \r
 382     if(!((req->render_mode == color_fill_mode) || (req->render_mode == line_point_drawing_mode)))\r
 383     {\r
 384         if (unlikely((req->src.act_w <= 0) || (req->src.act_w > 8191) || (req->src.act_h <= 0) || (req->src.act_h > 8191)))\r
 385         {\r
 386                 printk("invalid source resolution act_w = %d, act_h = %d\n", req->src.act_w, req->src.act_h);\r
 387                 return  -EINVAL;\r
 388         }\r
 389     }\r
 390 \r
 391     if(!((req->render_mode == color_fill_mode) || (req->render_mode == line_point_drawing_mode)))\r
 392     {\r
 393         if (unlikely((req->src.vir_w <= 0) || (req->src.vir_w > 8191) || (req->src.vir_h <= 0) || (req->src.vir_h > 8191)))\r
 394         {\r
 395                 printk("invalid source resolution vir_w = %d, vir_h = %d\n", req->src.vir_w, req->src.vir_h);\r
 396                 return  -EINVAL;\r
 397         }\r
 398     }\r
 399 \r
 400         //check dst width and height\r
 401         if (unlikely((req->dst.act_w <= 0) || (req->dst.act_w > 2048) || (req->dst.act_h <= 0) || (req->dst.act_h > 2048)))\r
 402     {\r
 403                 printk("invalid destination resolution act_w = %d, act_h = %d\n", req->dst.act_w, req->dst.act_h);\r
 404                 return  -EINVAL;\r
 405         }\r
 406 \r
 407     if (unlikely((req->dst.vir_w <= 0) || (req->dst.vir_w > 4096) || (req->dst.vir_h <= 0) || (req->dst.vir_h > 2048)))\r
 408     {\r
 409                 printk("invalid destination resolution vir_w = %d, vir_h = %d\n", req->dst.vir_w, req->dst.vir_h);\r
 410                 return  -EINVAL;\r
 411         }\r
 412 \r
 413         //check src_vir_w\r
 414         if(unlikely(req->src.vir_w < req->src.act_w)){\r
 415                 printk("invalid src_vir_w act_w = %d, vir_w = %d\n", req->src.act_w, req->src.vir_w);\r
 416                 return  -EINVAL;\r
 417         }\r
 418 \r
 419         //check dst_vir_w\r
 420         if(unlikely(req->dst.vir_w < req->dst.act_w)){\r
 421         if(req->rotate_mode != 1)\r
 422         {\r
 423                     printk("invalid dst_vir_w act_h = %d, vir_h = %d\n", req->dst.act_w, req->dst.vir_w);\r
 424                     return      -EINVAL;\r
 425         }\r
 426         }\r
 427 \r
 428         return 0;\r
 429 }\r
 430 \r
 431 static void rga_copy_reg(struct rga_reg *reg, uint32_t offset)\r
 432 {\r
 433     uint32_t i;\r
 434     uint32_t *cmd_buf;\r
 435     uint32_t *reg_p;\r
 436 \r
 437     if(atomic_read(&reg->session->task_running) != 0)\r
 438     {\r
 439         printk(KERN_ERR "task_running is no zero\n");\r
 440     }\r
 441 \r
 442     atomic_add(1, &rga_service.cmd_num);\r
 443         atomic_add(1, &reg->session->task_running);\r
 444 \r
 445     cmd_buf = (uint32_t *)rga_service.cmd_buff + offset*32;\r
 446     reg_p = (uint32_t *)reg->cmd_reg;\r
 447 \r
 448     for(i=0; i<32; i++)\r
 449     {\r
 450         cmd_buf[i] = reg_p[i];\r
 451     }\r
 452 \r
 453     dsb();\r
 454 }\r
 455 \r
 456 \r
 457 static struct rga_reg * rga_reg_init(rga_session *session, struct rga_req *req)\r
 458 {\r
 459     uint32_t ret;\r
 460         struct rga_reg *reg = kzalloc(sizeof(struct rga_reg), GFP_KERNEL);\r
 461         if (NULL == reg) {\r
 462                 pr_err("kmalloc fail in rga_reg_init\n");\r
 463                 return NULL;\r
 464         }\r
 465 \r
 466     reg->session = session;\r
 467         INIT_LIST_HEAD(&reg->session_link);\r
 468         INIT_LIST_HEAD(&reg->status_link);\r
 469 \r
 470     reg->MMU_base = NULL;\r
 471 \r
 472     if (req->mmu_info.mmu_en)\r
 473     {\r
 474         ret = rga_set_mmu_info(reg, req);\r
 475         if(ret < 0)\r
 476         {\r
 477             printk("%s, [%d] set mmu info error \n", __FUNCTION__, __LINE__);\r
 478             if(reg != NULL)\r
 479             {\r
 480                 kfree(reg);\r
 481             }\r
 482             return NULL;\r
 483         }\r
 484     }\r
 485 \r
 486     if(RGA_gen_reg_info(req, (uint8_t *)reg->cmd_reg) == -1)\r
 487     {\r
 488         printk("gen reg info error\n");\r
 489         if(reg != NULL)\r
 490         {\r
 491             kfree(reg);\r
 492         }\r
 493         return NULL;\r
 494     }\r
 495 \r
 496     mutex_lock(&rga_service.lock);\r
 497         list_add_tail(&reg->status_link, &rga_service.waiting);\r
 498         list_add_tail(&reg->session_link, &session->waiting);\r
 499         mutex_unlock(&rga_service.lock);\r
 500 \r
 501     return reg;\r
 502 }\r
 503 \r
 504 static struct rga_reg * rga_reg_init_2(rga_session *session, struct rga_req *req0, struct rga_req *req1)\r
 505 {\r
 506     uint32_t ret;\r
 507 \r
 508     struct rga_reg *reg0, *reg1;\r
 509 \r
 510     reg0 = NULL;\r
 511     reg1 = NULL;\r
 512 \r
 513     do\r
 514     {\r
 515         reg0 = kzalloc(sizeof(struct rga_reg), GFP_KERNEL);\r
 516         if (NULL == reg0) {\r
 517                 pr_err("%s [%d] kmalloc fail in rga_reg_init\n", __FUNCTION__, __LINE__);\r
 518             break;\r
 519         }\r
 520 \r
 521         reg1 = kzalloc(sizeof(struct rga_reg), GFP_KERNEL);\r
 522         if (NULL == reg1) {\r
 523                 pr_err("%s [%d] kmalloc fail in rga_reg_init\n", __FUNCTION__, __LINE__);\r
 524             break;\r
 525         }\r
 526 \r
 527         reg0->session = session;\r
 528         INIT_LIST_HEAD(&reg0->session_link);\r
 529         INIT_LIST_HEAD(&reg0->status_link);\r
 530 \r
 531         reg1->session = session;\r
 532         INIT_LIST_HEAD(&reg1->session_link);\r
 533         INIT_LIST_HEAD(&reg1->status_link);\r
 534 \r
 535         if(req0->mmu_info.mmu_en)\r
 536         {\r
 537             ret = rga_set_mmu_info(reg0, req0);\r
 538             if(ret < 0) {\r
 539                 printk("%s, [%d] set mmu info error \n", __FUNCTION__, __LINE__);\r
 540                 break;\r
 541             }\r
 542         }\r
 543 \r
 544         RGA_gen_reg_info(req0, (uint8_t *)reg0->cmd_reg);\r
 545 \r
 546         if(req1->mmu_info.mmu_en)\r
 547         {\r
 548             ret = rga_set_mmu_info(reg1, req1);\r
 549             if(ret < 0) {\r
 550                 printk("%s, [%d] set mmu info error \n", __FUNCTION__, __LINE__);\r
 551                 break;\r
 552             }\r
 553         }\r
 554 \r
 555         RGA_gen_reg_info(req1, (uint8_t *)reg1->cmd_reg);\r
 556 \r
 557         mutex_lock(&rga_service.lock);\r
 558         list_add_tail(&reg0->status_link, &rga_service.waiting);\r
 559         list_add_tail(&reg0->session_link, &session->waiting);\r
 560         list_add_tail(&reg1->status_link, &rga_service.waiting);\r
 561         list_add_tail(&reg1->session_link, &session->waiting);\r
 562         mutex_unlock(&rga_service.lock);\r
 563 \r
 564         return reg1;\r
 565     }\r
 566     while(0);\r
 567 \r
 568     if(reg0 != NULL) {\r
 569         kfree(reg0);\r
 570     }\r
 571 \r
 572     if(reg1 != NULL) {\r
 573         kfree(reg1);\r
 574     }\r
 575 \r
 576     return NULL;\r
 577 }\r
 578 \r
 579 /* Caller must hold rga_service.lock */\r
 580 static void rga_reg_deinit(struct rga_reg *reg)\r
 581 {\r
 582         list_del_init(&reg->session_link);\r
 583         list_del_init(&reg->status_link);\r
 584         kfree(reg);\r
 585 }\r
 586 \r
 587 /* Caller must hold rga_service.lock */\r
 588 static void rga_reg_from_wait_to_run(struct rga_reg *reg)\r
 589 {\r
 590         list_del_init(&reg->status_link);\r
 591         list_add_tail(&reg->status_link, &rga_service.running);\r
 592 \r
 593         list_del_init(&reg->session_link);\r
 594         list_add_tail(&reg->session_link, &reg->session->running);\r
 595 }\r
 596 \r
 597 /* Caller must hold rga_service.lock */\r
 598 static void rga_service_session_clear(rga_session *session)\r
 599 {\r
 600         struct rga_reg *reg, *n;\r
 601 \r
 602     list_for_each_entry_safe(reg, n, &session->waiting, session_link)\r
 603     {\r
 604                 rga_reg_deinit(reg);\r
 605         }\r
 606 \r
 607     list_for_each_entry_safe(reg, n, &session->running, session_link)\r
 608     {\r
 609                 rga_reg_deinit(reg);\r
 610         }\r
 611 }\r
 612 \r
 613 /* Caller must hold rga_service.lock */\r
 614 static void rga_try_set_reg(void)\r
 615 {\r
 616     struct rga_reg *reg ;\r
 617 \r
 618     if (list_empty(&rga_service.running))\r
 619     {\r
 620         if (!list_empty(&rga_service.waiting))\r
 621         {\r
 622             /* RGA is idle */\r
 623             reg = list_entry(rga_service.waiting.next, struct rga_reg, status_link);\r
 624 \r
 625             rga_power_on();\r
 626             udelay(1);\r
 627 \r
 628             rga_copy_reg(reg, 0);\r
 629             rga_reg_from_wait_to_run(reg);\r
 630 \r
 631             dmac_flush_range(&rga_service.cmd_buff[0], &rga_service.cmd_buff[28]);\r
 632             outer_flush_range(virt_to_phys(&rga_service.cmd_buff[0]),virt_to_phys(&rga_service.cmd_buff[28]));\r
 633 \r
 634             #if defined(CONFIG_ARCH_RK30)\r
 635             rga_soft_reset();\r
 636             #endif\r
 637 \r
 638             rga_write(0x0, RGA_SYS_CTRL);\r
 639             rga_write(0, RGA_MMU_CTRL);\r
 640 \r
 641             /* CMD buff */\r
 642             rga_write(virt_to_phys(rga_service.cmd_buff), RGA_CMD_ADDR);\r
 643 \r
 644 #if RGA_TEST\r
 645             {\r
 646                 //printk(KERN_DEBUG "cmd_addr = %.8x\n", rga_read(RGA_CMD_ADDR));\r
 647                 uint32_t i;\r
 648                 uint32_t *p;\r
 649                 p = rga_service.cmd_buff;\r
 650                 printk("CMD_REG\n");\r
 651                 for (i=0; i<7; i++)\r
 652                     printk("%.8x %.8x %.8x %.8x\n", p[0 + i*4], p[1+i*4], p[2 + i*4], p[3 + i*4]);\r
 653                 printk("%.8x %.8x\n", p[0 + i*4], p[1+i*4]);\r
 654             }\r
 655 #endif\r
 656 \r
 657             /* master mode */\r
 658             rga_write((0x1<<2)|(0x1<<3), RGA_SYS_CTRL);\r
 659 \r
 660             /* All CMD finish int */\r
 661             rga_write(rga_read(RGA_INT)|(0x1<<10)|(0x1<<8), RGA_INT);\r
 662 \r
 663             #if RGA_TEST_TIME\r
 664             rga_start = ktime_get();\r
 665             #endif\r
 666 \r
 667             /* Start proc */\r
 668             atomic_set(&reg->session->done, 0);\r
 669             rga_write(0x1, RGA_CMD_CTRL);\r
 670 \r
 671 #if RGA_TEST\r
 672             {\r
 673                 uint32_t i;\r
 674                 printk("CMD_READ_BACK_REG\n");\r
 675                 for (i=0; i<7; i++)\r
 676                     printk("%.8x %.8x %.8x %.8x\n", rga_read(0x100 + i*16 + 0),\r
 677                             rga_read(0x100 + i*16 + 4), rga_read(0x100 + i*16 + 8), rga_read(0x100 + i*16 + 12));\r
 678                 printk("%.8x %.8x\n", rga_read(0x100 + i*16 + 0), rga_read(0x100 + i*16 + 4));\r
 679             }\r
 680 #endif\r
 681         }\r
 682     }\r
 683 }\r
 684 \r
 685 \r
 686 \r
 687 \r
 688 /* Caller must hold rga_service.lock */\r
 689 static void rga_del_running_list(void)\r
 690 {\r
 691     struct rga_reg *reg;\r
 692 \r
 693     while(!list_empty(&rga_service.running))\r
 694     {\r
 695         reg = list_entry(rga_service.running.next, struct rga_reg, status_link);\r
 696 \r
 697         if(reg->MMU_base != NULL)\r
 698         {\r
 699             kfree(reg->MMU_base);\r
 700             reg->MMU_base = NULL;\r
 701         }\r
 702         atomic_sub(1, &reg->session->task_running);\r
 703         atomic_sub(1, &rga_service.total_running);\r
 704 \r
 705         if(list_empty(&reg->session->waiting))\r
 706         {\r
 707             atomic_set(&reg->session->done, 1);\r
 708             wake_up(&reg->session->wait);\r
 709         }\r
 710 \r
 711         rga_reg_deinit(reg);\r
 712     }\r
 713 }\r
 714 \r
 715 /* Caller must hold rga_service.lock */\r
 716 static void rga_del_running_list_timeout(void)\r
 717 {\r
 718     struct rga_reg *reg;\r
 719 \r
 720     while(!list_empty(&rga_service.running))\r
 721     {\r
 722         reg = list_entry(rga_service.running.next, struct rga_reg, status_link);\r
 723 \r
 724         if(reg->MMU_base != NULL)\r
 725         {\r
 726             kfree(reg->MMU_base);\r
 727         }\r
 728 \r
 729         atomic_sub(1, &reg->session->task_running);\r
 730         atomic_sub(1, &rga_service.total_running);\r
 731 \r
 732         //printk("RGA soft reset for timeout process\n");\r
 733         rga_soft_reset();\r
 734 \r
 735 \r
 736         #if 0\r
 737         printk("RGA_INT is %.8x\n", rga_read(RGA_INT));\r
 738         printk("reg->session->task_running = %d\n", atomic_read(&reg->session->task_running));\r
 739         printk("rga_service.total_running  = %d\n", atomic_read(&rga_service.total_running));\r
 740 \r
 741         print_info(&reg->req);\r
 742 \r
 743         {\r
 744             uint32_t *p, i;\r
 745             p = reg->cmd_reg;\r
 746             for (i=0; i<7; i++)\r
 747                 printk("%.8x %.8x %.8x %.8x\n", p[0 + i*4], p[1+i*4], p[2 + i*4], p[3 + i*4]);\r
 748 \r
 749         }\r
 750         #endif\r
 751 \r
 752         if(list_empty(&reg->session->waiting))\r
 753         {\r
 754             atomic_set(&reg->session->done, 1);\r
 755             wake_up(&reg->session->wait);\r
 756         }\r
 757 \r
 758         rga_reg_deinit(reg);\r
 759     }\r
 760 }\r
 761 \r
 762 \r
 763 static void rga_mem_addr_sel(struct rga_req *req)\r
 764 {\r
 765     switch(req->src.format)\r
 766     {\r
 767         case RK_FORMAT_YCbCr_422_SP:\r
 768             break;\r
 769         case RK_FORMAT_YCbCr_422_P :\r
 770             break;\r
 771         case RK_FORMAT_YCbCr_420_SP :\r
 772             if((req->src.yrgb_addr > 0xc0000000) && (req->src.uv_addr > 0xc0000000)\r
 773                 && (req->dst.yrgb_addr > 0xc0000000))\r
 774             {\r
 775                 req->src.yrgb_addr = req->src.yrgb_addr - 0x60000000;\r
 776                 req->src.uv_addr = req->src.uv_addr - 0x60000000;\r
 777                 req->dst.yrgb_addr = req->dst.yrgb_addr - 0x60000000;\r
 778                 req->mmu_info.mmu_en = 0;\r
 779                 req->mmu_info.mmu_flag &= 0xfffe;\r
 780             }\r
 781             break;\r
 782         case RK_FORMAT_YCbCr_420_P :\r
 783             break;\r
 784         case RK_FORMAT_YCrCb_422_SP :\r
 785             break;\r
 786         case RK_FORMAT_YCrCb_422_P :\r
 787             break;\r
 788         case RK_FORMAT_YCrCb_420_SP :\r
 789             break;\r
 790         case RK_FORMAT_YCrCb_420_P :\r
 791             break;\r
 792         default :\r
 793             break;\r
 794     }\r
 795 \r
 796 }\r
 797 \r
 798 static int rga_convert_dma_buf(struct rga_req *req)\r
 799 {\r
 800         struct ion_handle *hdl;\r
 801         ion_phys_addr_t phy_addr;\r
 802         size_t len;\r
 803     int ret;\r
 804 \r
 805     req->sg_src  = NULL;\r
 806     req->sg_dst  = NULL;\r
 807 \r
 808     if(req->src.yrgb_addr) {\r
 809         hdl = ion_import_dma_buf(drvdata->ion_client, req->src.yrgb_addr);\r
 810         if (IS_ERR(hdl)) {\r
 811             ret = PTR_ERR(hdl);\r
 812             printk("RGA2 ERROR ion buf handle\n");\r
 813             return ret;\r
 814         }\r
 815         if ((req->mmu_info.mmu_flag >> 8) & 1) {\r
 816             req->sg_src = ion_sg_table(drvdata->ion_client, hdl);\r
 817             req->src.yrgb_addr = req->src.uv_addr;\r
 818             req->src.uv_addr = req->src.yrgb_addr + (req->src.vir_w * req->src.vir_h);\r
 819             req->src.v_addr = req->src.uv_addr + (req->src.vir_w * req->src.vir_h)/4;\r
 820         }\r
 821         else {\r
 822             ion_phys(drvdata->ion_client, hdl, &phy_addr, &len);\r
 823             req->src.yrgb_addr = phy_addr;\r
 824             req->src.uv_addr = req->src.yrgb_addr + (req->src.vir_w * req->src.vir_h);\r
 825             req->src.v_addr = req->src.uv_addr + (req->src.vir_w * req->src.vir_h)/4;\r
 826         }\r
 827         ion_free(drvdata->ion_client, hdl);\r
 828     }\r
 829     else {\r
 830         req->src.yrgb_addr = req->src.uv_addr;\r
 831         req->src.uv_addr = req->src.yrgb_addr + (req->src.vir_w * req->src.vir_h);\r
 832         req->src.v_addr = req->src.uv_addr + (req->src.vir_w * req->src.vir_h)/4;\r
 833     }\r
 834 \r
 835     if(req->dst.yrgb_addr) {\r
 836         hdl = ion_import_dma_buf(drvdata->ion_client, req->dst.yrgb_addr);\r
 837         if (IS_ERR(hdl)) {\r
 838             ret = PTR_ERR(hdl);\r
 839             printk("RGA2 ERROR ion buf handle\n");\r
 840             return ret;\r
 841         }\r
 842         if ((req->mmu_info.mmu_flag >> 10) & 1) {\r
 843             req->sg_dst = ion_sg_table(drvdata->ion_client, hdl);\r
 844             req->dst.yrgb_addr = req->dst.uv_addr;\r
 845             req->dst.uv_addr = req->dst.yrgb_addr + (req->dst.vir_w * req->dst.vir_h);\r
 846             req->dst.v_addr = req->dst.uv_addr + (req->dst.vir_w * req->dst.vir_h)/4;\r
 847         }\r
 848         else {\r
 849             ion_phys(drvdata->ion_client, hdl, &phy_addr, &len);\r
 850             req->dst.yrgb_addr = phy_addr;\r
 851             req->dst.uv_addr = req->dst.yrgb_addr + (req->dst.vir_w * req->dst.vir_h);\r
 852             req->dst.v_addr = req->dst.uv_addr + (req->dst.vir_w * req->dst.vir_h)/4;\r
 853         }\r
 854         ion_free(drvdata->ion_client, hdl);\r
 855     }\r
 856     else {\r
 857         req->dst.yrgb_addr = req->dst.uv_addr;\r
 858         req->dst.uv_addr = req->dst.yrgb_addr + (req->dst.vir_w * req->dst.vir_h);\r
 859         req->dst.v_addr = req->dst.uv_addr + (req->dst.vir_w * req->dst.vir_h)/4;\r
 860     }\r
 861 \r
 862     return 0;\r
 863 }\r
 864 \r
 865 \r
 866 static int rga_blit(rga_session *session, struct rga_req *req)\r
 867 {\r
 868     int ret = -1;\r
 869     int num = 0;\r
 870     struct rga_reg *reg;\r
 871     struct rga_req req2;\r
 872 \r
 873     uint32_t saw, sah, daw, dah;\r
 874 \r
 875     saw = req->src.act_w;\r
 876     sah = req->src.act_h;\r
 877     daw = req->dst.act_w;\r
 878     dah = req->dst.act_h;\r
 879 \r
 880     #if RGA_TEST\r
 881     print_info(req);\r
 882     #endif\r
 883 \r
 884     if(rga_convert_dma_buf(req)) {\r
 885         printk("RGA : DMA buf copy error\n");\r
 886         return -EFAULT;\r
 887     }\r
 888 \r
 889     do {\r
 890         if((req->render_mode == bitblt_mode) && (((saw>>1) >= daw) || ((sah>>1) >= dah))) {\r
 891             /* generate 2 cmd for pre scale */\r
 892 \r
 893             ret = rga_check_param(req);\r
 894                 if(ret == -EINVAL) {\r
 895                 printk("req 0 argument is inval\n");\r
 896                 break;\r
 897                 }\r
 898 \r
 899             ret = RGA_gen_two_pro(req, &req2);\r
 900             if(ret == -EINVAL) {\r
 901                 break;\r
 902             }\r
 903 \r
 904             ret = rga_check_param(req);\r
 905                 if(ret == -EINVAL) {\r
 906                 printk("req 1 argument is inval\n");\r
 907                 break;\r
 908                 }\r
 909 \r
 910             ret = rga_check_param(&req2);\r
 911                 if(ret == -EINVAL) {\r
 912                 printk("req 2 argument is inval\n");\r
 913                 break;\r
 914                 }\r
 915 \r
 916             reg = rga_reg_init_2(session, req, &req2);\r
 917             if(reg == NULL) {\r
 918                 break;\r
 919             }\r
 920             num = 2;\r
 921 \r
 922         }\r
 923         else {\r
 924             /* check value if legal */\r
 925             ret = rga_check_param(req);\r
 926                 if(ret == -EINVAL) {\r
 927                 printk("req argument is inval\n");\r
 928                 break;\r
 929                 }\r
 930 \r
 931             if(req->render_mode == bitblt_mode)\r
 932                 rga_mem_addr_sel(req);\r
 933 \r
 934             reg = rga_reg_init(session, req);\r
 935             if(reg == NULL) {\r
 936                 break;\r
 937             }\r
 938             num = 1;\r
 939         }\r
 940 \r
 941         mutex_lock(&rga_service.lock);\r
 942         atomic_add(num, &rga_service.total_running);\r
 943         rga_try_set_reg();\r
 944         mutex_unlock(&rga_service.lock);\r
 945 \r
 946         return 0;\r
 947     }\r
 948     while(0);\r
 949 \r
 950     return -EFAULT;\r
 951 }\r
 952 \r
 953 static int rga_blit_async(rga_session *session, struct rga_req *req)\r
 954 {\r
 955         int ret = -1;\r
 956 \r
 957     #if RGA_TEST\r
 958     printk("*** rga_blit_async proc ***\n");\r
 959     #endif\r
 960 \r
 961     atomic_set(&session->done, 0);\r
 962     ret = rga_blit(session, req);\r
 963     return ret;\r
 964 }\r
 965 \r
 966 static int rga_blit_sync(rga_session *session, struct rga_req *req)\r
 967 {\r
 968     int ret = -1;\r
 969     int ret_timeout = 0;\r
 970 \r
 971     #if RGA_TEST\r
 972     printk("*** rga_blit_sync proc ***\n");\r
 973     #endif\r
 974 \r
 975     atomic_set(&session->done, 0);\r
 976     ret = rga_blit(session, req);\r
 977     if(ret < 0)\r
 978         return ret;\r
 979 \r
 980     ret_timeout = wait_event_timeout(session->wait, atomic_read(&session->done), RGA_TIMEOUT_DELAY);\r
 981 \r
 982     if (unlikely(ret_timeout< 0)) {\r
 983         mutex_lock(&rga_service.lock);\r
 984         rga_del_running_list();\r
 985         mutex_unlock(&rga_service.lock);\r
 986         ret = ret_timeout;\r
 987         }\r
 988     else if (0 == ret_timeout) {\r
 989         mutex_lock(&rga_service.lock);\r
 990         rga_del_running_list_timeout();\r
 991         rga_try_set_reg();\r
 992         mutex_unlock(&rga_service.lock);\r
 993                 ret = -ETIMEDOUT;\r
 994         }\r
 995 \r
 996     #if RGA_TEST_TIME\r
 997     rga_end = ktime_get();\r
 998     rga_end = ktime_sub(rga_end, rga_start);\r
 999     printk("sync one cmd end time %d\n", (int)ktime_to_us(rga_end));\r
1000     #endif\r
1001 \r
1002     return ret;\r
1003 }\r
1004 \r
1005 \r
1006 static long rga_ioctl(struct file *file, uint32_t cmd, unsigned long arg)\r
1007 {\r
1008     struct rga_req req;\r
1009         int ret = 0;\r
1010     rga_session *session;\r
1011 \r
1012     mutex_lock(&rga_service.mutex);\r
1013 \r
1014     session = (rga_session *)file->private_data;\r
1015 \r
1016         if (NULL == session) {\r
1017         printk("%s [%d] rga thread session is null\n",__FUNCTION__,__LINE__);\r
1018         mutex_unlock(&rga_service.mutex);\r
1019                 return -EINVAL;\r
1020         }\r
1021 \r
1022     memset(&req, 0x0, sizeof(req));\r
1023 \r
1024         switch (cmd) {\r
1025                 case RGA_BLIT_SYNC:\r
1026                 if (unlikely(copy_from_user(&req, (struct rga_req*)arg, sizeof(struct rga_req))))\r
1027             {\r
1028                         ERR("copy_from_user failed\n");\r
1029                         ret = -EFAULT;\r
1030                 break;\r
1031                 }\r
1032             ret = rga_blit_sync(session, &req);\r
1033             break;\r
1034                 case RGA_BLIT_ASYNC:\r
1035                 if (unlikely(copy_from_user(&req, (struct rga_req*)arg, sizeof(struct rga_req))))\r
1036             {\r
1037                         ERR("copy_from_user failed\n");\r
1038                         ret = -EFAULT;\r
1039                 break;\r
1040                 }\r
1041 \r
1042             if((atomic_read(&rga_service.total_running) > 16))\r
1043             {\r
1044                             ret = rga_blit_sync(session, &req);\r
1045             }\r
1046             else\r
1047             {\r
1048                 ret = rga_blit_async(session, &req);\r
1049             }\r
1050                         break;\r
1051                 case RGA_FLUSH:\r
1052                         ret = rga_flush(session, arg);\r
1053                         break;\r
1054         case RGA_GET_RESULT:\r
1055             ret = rga_get_result(session, arg);\r
1056             break;\r
1057         case RGA_GET_VERSION:\r
1058             ret = copy_to_user((void *)arg, RGA_VERSION, sizeof(RGA_VERSION));\r
1059             //ret = 0;\r
1060             break;\r
1061                 default:\r
1062                         ERR("unknown ioctl cmd!\n");\r
1063                         ret = -EINVAL;\r
1064                         break;\r
1065         }\r
1066 \r
1067         mutex_unlock(&rga_service.mutex);\r
1068 \r
1069         return ret;\r
1070 }\r
1071 \r
1072 \r
1073 long rga_ioctl_kernel(struct rga_req *req)\r
1074 {\r
1075         int ret = 0;\r
1076     if (!rga_ioctl_kernel_p) {\r
1077         printk("rga_ioctl_kernel_p is NULL\n");\r
1078         return -1;\r
1079     }\r
1080     else {\r
1081         ret = (*rga_ioctl_kernel_p)(req);\r
1082             return ret;\r
1083     }\r
1084 }\r
1085 \r
1086 \r
1087 long rga_ioctl_kernel_imp(struct rga_req *req)\r
1088 {\r
1089         int ret = 0;\r
1090     rga_session *session;\r
1091 \r
1092     mutex_lock(&rga_service.mutex);\r
1093 \r
1094     session = &rga_session_global;\r
1095 \r
1096         if (NULL == session) {\r
1097         printk("%s [%d] rga thread session is null\n",__FUNCTION__,__LINE__);\r
1098         mutex_unlock(&rga_service.mutex);\r
1099                 return -EINVAL;\r
1100         }\r
1101 \r
1102     ret = rga_blit_sync(session, req);\r
1103 \r
1104         mutex_unlock(&rga_service.mutex);\r
1105 \r
1106         return ret;\r
1107 }\r
1108 \r
1109 \r
1110 static int rga_open(struct inode *inode, struct file *file)\r
1111 {\r
1112     rga_session *session = kzalloc(sizeof(rga_session), GFP_KERNEL);\r
1113         if (NULL == session) {\r
1114                 pr_err("unable to allocate memory for rga_session.");\r
1115                 return -ENOMEM;\r
1116         }\r
1117 \r
1118         session->pid = current->pid;\r
1119     //printk(KERN_DEBUG  "+");\r
1120 \r
1121         INIT_LIST_HEAD(&session->waiting);\r
1122         INIT_LIST_HEAD(&session->running);\r
1123         INIT_LIST_HEAD(&session->list_session);\r
1124         init_waitqueue_head(&session->wait);\r
1125         mutex_lock(&rga_service.lock);\r
1126         list_add_tail(&session->list_session, &rga_service.session);\r
1127         mutex_unlock(&rga_service.lock);\r
1128         atomic_set(&session->task_running, 0);\r
1129     atomic_set(&session->num_done, 0);\r
1130 \r
1131         file->private_data = (void *)session;\r
1132 \r
1133     //DBG("*** rga dev opened by pid %d *** \n", session->pid);\r
1134         return nonseekable_open(inode, file);\r
1135 \r
1136 }\r
1137 \r
1138 static int rga_release(struct inode *inode, struct file *file)\r
1139 {\r
1140     int task_running;\r
1141         rga_session *session = (rga_session *)file->private_data;\r
1142         if (NULL == session)\r
1143                 return -EINVAL;\r
1144     //printk(KERN_DEBUG  "-");\r
1145         task_running = atomic_read(&session->task_running);\r
1146 \r
1147     if (task_running)\r
1148     {\r
1149                 pr_err("rga_service session %d still has %d task running when closing\n", session->pid, task_running);\r
1150                 msleep(100);\r
1151         /*Í¬²½*/\r
1152         }\r
1153 \r
1154         wake_up(&session->wait);\r
1155         mutex_lock(&rga_service.lock);\r
1156         list_del(&session->list_session);\r
1157         rga_service_session_clear(session);\r
1158         kfree(session);\r
1159         mutex_unlock(&rga_service.lock);\r
1160 \r
1161     //DBG("*** rga dev close ***\n");\r
1162         return 0;\r
1163 }\r
1164 \r
1165 static irqreturn_t rga_irq_thread(int irq, void *dev_id)\r
1166 {\r
1167         mutex_lock(&rga_service.lock);\r
1168         if (rga_service.enable) {\r
1169                 rga_del_running_list();\r
1170                 rga_try_set_reg();\r
1171         }\r
1172         mutex_unlock(&rga_service.lock);\r
1173 \r
1174         return IRQ_HANDLED;\r
1175 }\r
1176 \r
1177 static irqreturn_t rga_irq(int irq,  void *dev_id)\r
1178 {\r
1179         /*clear INT */\r
1180         rga_write(rga_read(RGA_INT) | (0x1<<6) | (0x1<<7) | (0x1<<4), RGA_INT);\r
1181 \r
1182         return IRQ_WAKE_THREAD;\r
1183 }\r
1184 \r
1185 struct file_operations rga_fops = {\r
1186         .owner          = THIS_MODULE,\r
1187         .open           = rga_open,\r
1188         .release        = rga_release,\r
1189         .unlocked_ioctl         = rga_ioctl,\r
1190 };\r
1191 \r
1192 static struct miscdevice rga_dev ={\r
1193     .minor = RGA_MAJOR,\r
1194     .name  = "rga",\r
1195     .fops  = &rga_fops,\r
1196 };\r
1197 \r
1198 \r
1199 #if defined(CONFIG_OF)\r
1200 static const struct of_device_id rockchip_rga_dt_ids[] = {\r
1201         { .compatible = "rockchip,rga_drv", },\r
1202         {},\r
1203 };\r
1204 #endif\r
1205 \r
1206 static int rga_drv_probe(struct platform_device *pdev)\r
1207 {\r
1208         struct rga_drvdata *data;\r
1209     struct resource *res;\r
1210     //struct device_node *np = pdev->dev.of_node;\r
1211         int ret = 0;\r
1212 \r
1213         mutex_init(&rga_service.lock);\r
1214         mutex_init(&rga_service.mutex);\r
1215         atomic_set(&rga_service.total_running, 0);\r
1216         atomic_set(&rga_service.src_format_swt, 0);\r
1217         rga_service.last_prc_src_format = 1; /* default is yuv first*/\r
1218         rga_service.enable = false;\r
1219 \r
1220     rga_ioctl_kernel_p = rga_ioctl_kernel_imp;\r
1221 \r
1222         data = devm_kzalloc(&pdev->dev, sizeof(struct rga_drvdata), GFP_KERNEL);\r
1223         if(! data) {\r
1224                 ERR("failed to allocate driver data.\n");\r
1225                 return -ENOMEM;\r
1226         }\r
1227 \r
1228         INIT_DELAYED_WORK(&data->power_off_work, rga_power_off_work);\r
1229         wake_lock_init(&data->wake_lock, WAKE_LOCK_SUSPEND, "rga");\r
1230 \r
1231         //data->pd_rga = devm_clk_get(&pdev->dev, "pd_rga");\r
1232     data->aclk_rga = devm_clk_get(&pdev->dev, "aclk_rga");\r
1233     data->hclk_rga = devm_clk_get(&pdev->dev, "hclk_rga");\r
1234 \r
1235     /* map the registers */\r
1236         res = platform_get_resource(pdev, IORESOURCE_MEM, 0);\r
1237         data->rga_base = devm_ioremap_resource(&pdev->dev, res);\r
1238         if (!data->rga_base) {\r
1239                 ERR("rga ioremap failed\n");\r
1240                 ret = -ENOENT;\r
1241                 goto err_ioremap;\r
1242         }\r
1243 \r
1244         /* get the IRQ */\r
1245         data->irq = ret = platform_get_irq(pdev, 0);\r
1246         if (ret <= 0) {\r
1247                 ERR("failed to get rga irq resource (%d).\n", data->irq);\r
1248                 ret = data->irq;\r
1249                 goto err_irq;\r
1250         }\r
1251 \r
1252         /* request the IRQ */\r
1253         //ret = request_threaded_irq(data->irq, rga_irq, rga_irq_thread, 0, "rga", pdev);\r
1254     ret = devm_request_threaded_irq(&pdev->dev, data->irq, rga_irq, rga_irq_thread, 0, "rga", data);\r
1255         if (ret)\r
1256         {\r
1257                 ERR("rga request_irq failed (%d).\n", ret);\r
1258                 goto err_irq;\r
1259         }\r
1260 \r
1261         platform_set_drvdata(pdev, data);\r
1262         drvdata = data;\r
1263 \r
1264     #if defined(CONFIG_ION_ROCKCHIP)\r
1265         data->ion_client = rockchip_ion_client_create("rga");\r
1266         if (IS_ERR(data->ion_client)) {\r
1267                 dev_err(&pdev->dev, "failed to create ion client for rga");\r
1268                 return PTR_ERR(data->ion_client);\r
1269         } else {
1270                 dev_info(&pdev->dev, "rga ion client create success!\n");\r
1271         }
1272     #endif\r
1273 \r
1274         ret = misc_register(&rga_dev);\r
1275         if(ret)\r
1276         {\r
1277                 ERR("cannot register miscdev (%d)\n", ret);\r
1278                 goto err_misc_register;\r
1279         }\r
1280 \r
1281         pr_info("Driver loaded succesfully\n");\r
1282 \r
1283         return 0;\r
1284 \r
1285 err_misc_register:\r
1286         free_irq(data->irq, pdev);\r
1287 err_irq:\r
1288         iounmap(data->rga_base);\r
1289 err_ioremap:\r
1290         wake_lock_destroy(&data->wake_lock);\r
1291         //kfree(data);\r
1292 \r
1293         return ret;\r
1294 }\r
1295 \r
1296 static int rga_drv_remove(struct platform_device *pdev)\r
1297 {\r
1298         struct rga_drvdata *data = platform_get_drvdata(pdev);\r
1299         DBG("%s [%d]\n",__FUNCTION__,__LINE__);\r
1300 \r
1301         wake_lock_destroy(&data->wake_lock);\r
1302         misc_deregister(&(data->miscdev));\r
1303         free_irq(data->irq, &data->miscdev);\r
1304         iounmap((void __iomem *)(data->rga_base));\r
1305 \r
1306         //clk_put(data->pd_rga);\r
1307         devm_clk_put(&pdev->dev, data->aclk_rga);\r
1308         devm_clk_put(&pdev->dev, data->hclk_rga);\r
1309 \r
1310         //kfree(data);\r
1311         return 0;\r
1312 }\r
1313 \r
1314 static struct platform_driver rga_driver = {\r
1315         .probe          = rga_drv_probe,\r
1316         .remove         = rga_drv_remove,\r
1317         .driver         = {\r
1318                 .owner  = THIS_MODULE,\r
1319                 .name   = "rga",\r
1320                 .of_match_table = of_match_ptr(rockchip_rga_dt_ids),\r
1321         },\r
1322 };\r
1323 \r
1324 \r
1325 void rga_test_0(void);\r
1326 void rga_test_1(void);\r
1327 \r
1328 \r
1329 static int __init rga_init(void)\r
1330 {\r
1331         int ret;\r
1332     uint32_t *mmu_buf;\r
1333     uint32_t i;\r
1334     uint32_t *buf_p;\r
1335 \r
1336     /* malloc pre scale mid buf mmu table */\r
1337     mmu_buf = kzalloc(1024*8, GFP_KERNEL);\r
1338     if(mmu_buf == NULL)\r
1339     {\r
1340         printk(KERN_ERR "RGA get Pre Scale buff failed. \n");\r
1341         return -1;\r
1342     }\r
1343 \r
1344     /* malloc 4 M buf */\r
1345     for(i=0; i<1024; i++)\r
1346     {\r
1347         buf_p = (uint32_t *)__get_free_page(GFP_KERNEL|__GFP_ZERO);\r
1348         if(buf_p == NULL)\r
1349         {\r
1350             printk(KERN_ERR "RGA init pre scale buf falied\n");\r
1351             return -ENOMEM;\r
1352         }\r
1353 \r
1354         mmu_buf[i] = virt_to_phys((void *)((uint32_t)buf_p));\r
1355     }\r
1356 \r
1357     rga_service.pre_scale_buf = (uint32_t *)mmu_buf;\r
1358 \r
1359         if ((ret = platform_driver_register(&rga_driver)) != 0)\r
1360         {\r
1361         printk(KERN_ERR "Platform device register failed (%d).\n", ret);\r
1362                         return ret;\r
1363         }\r
1364 \r
1365     {\r
1366         rga_session_global.pid = 0x0000ffff;\r
1367         INIT_LIST_HEAD(&rga_session_global.waiting);\r
1368         INIT_LIST_HEAD(&rga_session_global.running);\r
1369         INIT_LIST_HEAD(&rga_session_global.list_session);\r
1370 \r
1371         INIT_LIST_HEAD(&rga_service.waiting);\r
1372             INIT_LIST_HEAD(&rga_service.running);\r
1373             INIT_LIST_HEAD(&rga_service.done);\r
1374             INIT_LIST_HEAD(&rga_service.session);\r
1375 \r
1376         init_waitqueue_head(&rga_session_global.wait);\r
1377         //mutex_lock(&rga_service.lock);\r
1378         list_add_tail(&rga_session_global.list_session, &rga_service.session);\r
1379         //mutex_unlock(&rga_service.lock);\r
1380         atomic_set(&rga_session_global.task_running, 0);\r
1381         atomic_set(&rga_session_global.num_done, 0);\r
1382     }\r
1383 \r
1384 \r
1385 \r
1386     #if RGA_TEST_CASE\r
1387     rga_test_0();\r
1388     #endif\r
1389 \r
1390         INFO("Module initialized.\n");\r
1391 \r
1392         return 0;\r
1393 }\r
1394 \r
1395 static void __exit rga_exit(void)\r
1396 {\r
1397     uint32_t i;\r
1398 \r
1399     rga_power_off();\r
1400 \r
1401     for(i=0; i<1024; i++)\r
1402     {\r
1403         if((uint32_t *)rga_service.pre_scale_buf[i] != NULL)\r
1404         {\r
1405             __free_page((void *)rga_service.pre_scale_buf[i]);\r
1406         }\r
1407     }\r
1408 \r
1409     if(rga_service.pre_scale_buf != NULL) {\r
1410         kfree((uint8_t *)rga_service.pre_scale_buf);\r
1411     }\r
1412         platform_driver_unregister(&rga_driver);\r
1413 }\r
1414 \r
1415 \r
1416 #if RGA_TEST_CASE\r
1417 \r
1418 extern struct fb_info * rk_get_fb(int fb_id);\r
1419 EXPORT_SYMBOL(rk_get_fb);\r
1420 \r
1421 extern void rk_direct_fb_show(struct fb_info * fbi);\r
1422 EXPORT_SYMBOL(rk_direct_fb_show);\r
1423 \r
1424 unsigned int src_buf[1920*1080];\r
1425 unsigned int dst_buf[1920*1080];\r
1426 //unsigned int tmp_buf[1920*1080 * 2];\r
1427 \r
1428 void rga_test_0(void)\r
1429 {\r
1430     struct rga_req req;\r
1431     rga_session session;\r
1432     unsigned int *src, *dst;\r
1433     uint32_t i, j;\r
1434     uint8_t *p;\r
1435     uint8_t t;\r
1436     uint32_t *dst0, *dst1, *dst2;\r
1437 \r
1438     struct fb_info *fb;\r
1439 \r
1440     session.pid = current->pid;\r
1441         INIT_LIST_HEAD(&session.waiting);\r
1442         INIT_LIST_HEAD(&session.running);\r
1443         INIT_LIST_HEAD(&session.list_session);\r
1444         init_waitqueue_head(&session.wait);\r
1445         /* no need to protect */\r
1446         list_add_tail(&session.list_session, &rga_service.session);\r
1447         atomic_set(&session.task_running, 0);\r
1448     atomic_set(&session.num_done, 0);\r
1449         //file->private_data = (void *)session;\r
1450 \r
1451     fb = rk_get_fb(0);\r
1452 \r
1453     memset(&req, 0, sizeof(struct rga_req));\r
1454     src = src_buf;\r
1455     dst = dst_buf;\r
1456 \r
1457     memset(src_buf, 0x80, 1024*600*4);\r
1458 \r
1459     dmac_flush_range(&src_buf[0], &src_buf[1024*600]);\r
1460     outer_flush_range(virt_to_phys(&src_buf[0]),virt_to_phys(&src_buf[1024*600]));\r
1461 \r
1462 \r
1463     #if 0\r
1464     memset(src_buf, 0x80, 800*480*4);\r
1465     memset(dst_buf, 0xcc, 800*480*4);\r
1466 \r
1467     dmac_flush_range(&dst_buf[0], &dst_buf[800*480]);\r
1468     outer_flush_range(virt_to_phys(&dst_buf[0]),virt_to_phys(&dst_buf[800*480]));\r
1469     #endif\r
1470 \r
1471     dst0 = &dst_buf[0];\r
1472     //dst1 = &dst_buf[1280*800*4];\r
1473     //dst2 = &dst_buf[1280*800*4*2];\r
1474 \r
1475     i = j = 0;\r
1476 \r
1477     printk("\n********************************\n");\r
1478     printk("************ RGA_TEST ************\n");\r
1479     printk("********************************\n\n");\r
1480 \r
1481     req.src.act_w = 1024;\r
1482     req.src.act_h = 600;\r
1483 \r
1484     req.src.vir_w = 1024;\r
1485     req.src.vir_h = 600;\r
1486     req.src.yrgb_addr = (uint32_t)virt_to_phys(src);\r
1487     req.src.uv_addr = (uint32_t)(req.src.yrgb_addr + 1080*1920);\r
1488     req.src.v_addr = (uint32_t)virt_to_phys(src);\r
1489     req.src.format = RK_FORMAT_RGBA_8888;\r
1490 \r
1491     req.dst.act_w = 600;\r
1492     req.dst.act_h = 352;\r
1493 \r
1494     req.dst.vir_w = 1280;\r
1495     req.dst.vir_h = 800;\r
1496     req.dst.x_offset = 600;\r
1497     req.dst.y_offset = 0;\r
1498 \r
1499     dst = dst0;\r
1500 \r
1501     req.dst.yrgb_addr = ((uint32_t)virt_to_phys(dst));\r
1502 \r
1503     //req.dst.format = RK_FORMAT_RGB_565;\r
1504 \r
1505     req.clip.xmin = 0;\r
1506     req.clip.xmax = 1279;\r
1507     req.clip.ymin = 0;\r
1508     req.clip.ymax = 799;\r
1509 \r
1510     //req.render_mode = color_fill_mode;\r
1511     //req.fg_color = 0x80ffffff;\r
1512 \r
1513     req.rotate_mode = 1;\r
1514     //req.scale_mode = 2;\r
1515 \r
1516     //req.alpha_rop_flag = 0;\r
1517     //req.alpha_rop_mode = 0x19;\r
1518     //req.PD_mode = 3;\r
1519 \r
1520     req.sina = 65536;\r
1521     req.cosa = 0;\r
1522 \r
1523     //req.mmu_info.mmu_flag = 0x21;\r
1524     //req.mmu_info.mmu_en = 1;\r
1525 \r
1526     //printk("src = %.8x\n", req.src.yrgb_addr);\r
1527     //printk("src = %.8x\n", req.src.uv_addr);\r
1528     //printk("dst = %.8x\n", req.dst.yrgb_addr);\r
1529 \r
1530 \r
1531     rga_blit_sync(&session, &req);\r
1532 \r
1533     #if 1\r
1534     fb->var.bits_per_pixel = 32;\r
1535 \r
1536     fb->var.xres = 1280;\r
1537     fb->var.yres = 800;\r
1538 \r
1539     fb->var.red.length = 8;\r
1540     fb->var.red.offset = 0;\r
1541     fb->var.red.msb_right = 0;\r
1542 \r
1543     fb->var.green.length = 8;\r
1544     fb->var.green.offset = 8;\r
1545     fb->var.green.msb_right = 0;\r
1546 \r
1547     fb->var.blue.length = 8;\r
1548 \r
1549     fb->var.blue.offset = 16;\r
1550     fb->var.blue.msb_right = 0;\r
1551 \r
1552     fb->var.transp.length = 8;\r
1553     fb->var.transp.offset = 24;\r
1554     fb->var.transp.msb_right = 0;\r
1555 \r
1556     fb->var.nonstd &= (~0xff);\r
1557     fb->var.nonstd |= 1;\r
1558 \r
1559     fb->fix.smem_start = virt_to_phys(dst);\r
1560 \r
1561     rk_direct_fb_show(fb);\r
1562     #endif\r
1563 \r
1564 }\r
1565 \r
1566 #endif\r
1567 module_init(rga_init);\r
1568 module_exit(rga_exit);\r
1569 \r
1570 /* Module information */\r
1571 MODULE_AUTHOR("zsq@rock-chips.com");\r
1572 MODULE_DESCRIPTION("Driver for rga device");\r
1573 MODULE_LICENSE("GPL");\r