0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

如何基本不用GAN把照片生成简笔画?

中科院长春光机所 来源:机器之心 作者:机器之心 2021-01-20 15:33 次阅读

如何基本不用GAN把照片生成简笔画?这个项目就做到了。

先前,机器之心报道过简笔画生成人脸。而 AI 从人脸生成简笔画的效果如何呢? 先看几张效果图!

《老友记》多人照片转换效果:

还有男神基努 · 里维斯

效果是不是出奇的好?更有意思的是,这种创作线稿的方法并没有使用大多数类似工具会用到的生成对抗网络 GAN。 目前,该项目在 Reddit 上已经有超高热度,项目名为 ArtLine,github star 量也已经超过 700。如果你想尝试一下自己的照片,项目作者 Vijish Madhavan 也把代码放在了 Google Colab 上,运行即可。

项目链接:

https://github.com/vijishmadhavan/ArtLine

Colab 地址:https://colab.research.google.com/github/vijishmadhavan/Light-Up/blob/master/ArtLine(Try_it_on_Colab).ipynb

技术细节 效果惊艳的 ArtLine 都用到了什么技术呢?这里有详细的技术细节介绍,包括自注意机制、逐步调整图片大小以及生成器损失函数。 自注意机制借鉴的相关研究是 Ian Goodfellow 等人的论文《Self-Attention Generative Adversarial Networks 》。

0ea59994-4492-11eb-8b86-12bb97331649.png

论文:https://arxiv.org/pdf/1805.08318.pdf 项目作者介绍,生成器是经过频谱归一化和自注意机制预训练的 UNET,也借鉴了 Jason Antic 的 DeOldify 项目,从而获得有关面部特征的适当细节。 DeOldify 项目地址:https://github.com/jantic/DeOldify 看到这里,也许有读者会质疑,不是说没有用到 GAN 吗?项目作者给出的解释是,GAN did not make much of a difference so I was happy with No GAN. 在逐步增加图片大小上,作者分别借鉴了英伟达与首尔国立大学的两项相关研究:

论文:https://arxiv.org/pdf/1710.10196.pdf

论文:https://arxiv.org/pdf/1707.02921.pdf

在这个项目中,图像尺寸逐渐增加,学习率也得到了调整。逐步调整图片大小,可以帮助模型更好地泛化,因为它可以看到更多不同的图像。 该项目使用到的最后一项技术源于 2016 年斯坦福大学李飞飞团队的研究论文《Perceptual Losses for Real-Time Style Transfer and Super-Resolution》。

0eb42b08-4492-11eb-8b86-12bb97331649.png

论文链接:https://arxiv.org/pdf/1603.08155.pdf 这项研究提出利用感知损失函数来训练图像转换中的前馈网络,结果表明,在风格迁移任务中,该研究得到了与其他方法类似的效果,但运行速度提升了数个数量级。 转换效果虽好,但项目作者表示,该项目依然存在着以下一些局限:

获得良好的输出效果取决于灯光、背景、阴影和照片质量。一开始通常会获得好的输出效果,但也可能出现问题。模型需要调整以适应所有用户;

模型会混淆阴影与头发,这也是项目作者正努力解决的问题;

500px 以下的低质量图片输出效果不佳;

由于项目作者并非码农,代码和实现会比较困难,未来更新版本将会改进。

关于 ArtLine 转换中未用到 GAN,网友表达了惊叹赞许之词!

0f10953c-4492-11eb-8b86-12bb97331649.png

责任编辑:lq

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AI
    AI
    +关注

    关注

    87

    文章

    26430

    浏览量

    264036
  • GaN
    GaN
    +关注

    关注

    19

    文章

    1763

    浏览量

    67948
  • 生成器
    +关注

    关注

    7

    文章

    302

    浏览量

    20210

原文标题:不用GAN,照片生成简笔画,效果惊艳

文章出处:【微信号:cas-ciomp,微信公众号:中科院长春光机所】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    深度学习生成对抗网络(GAN)全解析

    GANs真正的能力来源于它们遵循的对抗训练模式。生成器的权重是基于判别器的损失所学习到的。因此,生成器被它生成的图像所推动着进行训练,很难知道生成的图像是真的还是假的。
    发表于 03-29 14:42 92次阅读
    深度学习<b class='flag-5'>生成</b>对抗网络(<b class='flag-5'>GAN</b>)全解析

    微软相册更新生成式擦除编辑功能,消除照片干扰

    微软公开宣布,已经成功地将最近研发出的所有人工智能编辑功能(包括模糊背景、删除及替换背景以及生成式擦除)移植到适配Arm64设备和Windows 10的照片应用中,现在已面向全平台的Windows预览体验成员推广生效。
    的头像 发表于 02-23 14:33 295次阅读

    什么是d-GaN、e-GaN 和 v-GaN?其有何特点及应用?

    GaN是常用半导体材料中能隙最宽、临界场最大、饱和速度最高的材料。
    的头像 发表于 12-06 09:28 1309次阅读
    什么是d-<b class='flag-5'>GaN</b>、e-<b class='flag-5'>GaN</b> 和 v-<b class='flag-5'>GaN</b>?其有何特点及应用?

    GFPGAN:老旧照片的面部恢复神器

    的因为保管不好导致照片面目全非。 今天的这个Python模块叫GFPGAN,它能够让这些老照片恢复原有的光泽,使用了GAN算法对照片进行修复,效果比其他同类模型都有更好的表现。本模块支
    的头像 发表于 10-30 11:04 353次阅读

    如何c文件生成库文件?

    如何c文件生成库文件
    发表于 09-21 07:30

    GaN器件在Class D上的应用优势

    领域的热点。 如图1所示,GaN材料作为第三代半导体材料的核心技术之一,具有禁带宽度高、击穿场强大、电子饱和速度高等优势。由GaN材料制成的GaN器件具有击穿电压高、开关速度快、寄生参数低等优良特性
    发表于 06-25 15:59

    11.2 GaN的基本性质(上)

    GaN
    jf_75936199
    发布于 :2023年06月24日 18:50:28

    半桥GaN功率半导体应用设计

    升级到半桥GaN功率半导体
    发表于 06-21 11:47

    GaN功率集成电路技术指南

    GaN功率集成电路技术:过去,现在和未来
    发表于 06-21 07:19

    GaN功率集成电路的进展分析

    GaN功率集成电路的进展:效率、可靠性和自主性
    发表于 06-19 09:44

    实现快速充电系统的GaN技术介绍

    GaN技术实现快速充电系统
    发表于 06-19 06:20

    基于NeRF的隐式GAN架构

    一小部分2D图像合成复杂3D场景的新视图方面提供了最先进的质量。 作者提出了一个生成模型HyperNeRFGAN,它使用超网络范式来生成由NeRF表示的三维物体。超网络被定义为为解决特定任务的单独目标网络生成权值的神经模型。基于
    的头像 发表于 06-14 10:16 739次阅读
    基于NeRF的隐式<b class='flag-5'>GAN</b>架构

    使用S32DS生成一些驱动程序代码,使用相同的DS和SDK,为什么构建版本不同?

    我正在使用 S32DS 生成一些驱动程序代码,我发现许多我没有修改的文件(由其他人生成)也发生了变化。唯一的区别是构建版本。 我们使用相同的 DS 和 SDK,为什么构建版本不同?
    发表于 06-12 07:46

    视觉处理,2d照片转3d模型

    首先,太阳高度是恒定的。 照片每像素的亮度可求。我们只需要求出太阳与眼睛到物体的夹角就能求出3d模型。 最多就是各种物质的反射率。 英伟达的oir芯片就是做汽车视觉的,大家去取取经。 有时,2-3张位置不同的照片,可以快速生成
    发表于 05-21 17:13

    如何通过PyTorch实现卷积GAN构建?

    人们曾经认为生成的任务是不可能的,并且被 GAN 的力量所震惊,因为传统上,根本没有任何事实可以比较我们生成的图像。
    发表于 05-09 14:47 428次阅读
    如何通过PyTorch实现卷积<b class='flag-5'>GAN</b>构建?